🤯 Печатает или пророчит? Anthropic уже несколько месяцев приглашает в…

🤯 Печатает или пророчит? Anthropic уже несколько месяцев приглашает в Сан-Франциско раввинов, католических биоэтиков, философов и индуистского монаха, чтобы те помогли сформировать ценности ее моделей искусственного интеллекта Claude.

Эти встречи побуждают гостей задуматься и о том, не может ли программа обладать сознанием. По мере того как об этой работе становится известно публике, конкуренты начинают возражать. Глава OpenAI Сэм Альтман предупредил, что отношение к ИИ как к религиозному авторитету — это «реальная проблема безопасности».

С интересом наблюдаю за разговорами об ИИ и вижу два лагеря.

В первом снисходительно называют нейросеть пишущей машинкой. Во втором ждут от чата откровений о смысле жизни, устройстве мироздания и о том, уходить ли от мужа. Думаю, модель с одинаковой уверенностью отвечает на любой вопрос, в том числе на тот, у которого ответа нет.

В психологии эта пара хорошо известна: идеализация и обесценивание. Две стороны одной медали, и обе избавляют от необходимости разобраться, с кем (или с чем) имеешь дело.

А если разобраться. Пишущая машинка не обобщает, не переводит, не находит ошибку в таблице с данными. Ну и не перевирает факты, конечно. Языковая модель все это умеет. Но и про смысл жизни она ничего путного не скажет: ответ она строит из закономерностей огромного массива человеческих текстов, а значит, отражает наши же знания вместе с нашими же заблуждениями. И говорит одинаково уверенно, когда права и когда ошибается. Потому что не знает, что ошибается: говорит-то как по писаному, нами же написанному.

Поэтому меня занимает не вопрос «пользоваться или нет». Пользоваться, и по полной. Вопрос в другом: как проверять. Сверять факты с первоисточником, переспрашивать, ловить на противоречиях. Словом, обращаться с ней как с очень начитанным и очень самоуверенным собеседником.

А вечные вопросы, кстати, по-прежнему за нами. Это даже утешает. Живые!

#ИИ #нейросети #критическоемышление #психология #новаянормальность

🤯 Мир со сдвигом тут
🍀 100 % Зеленого" тут