Общение с нейросетью может вызвать ИИ-психоз // Коммерсантъ

В журнале JAMA Psychiatry опубликованы результаты исследования Медицинского центра Университета Вандербильта: учёные проанализировали 216 000 электронных медкарт и выделили 73 случая, когда пациенты попадали в больницу после взаимодействия с ИИ. Фокус‑группа — 28 человек (0,013% от общего числа пациентов центра).

Ключевые наблюдения:

- У 17 человек психотический эпизод был первым в жизни.
- Пациенты с ИИ‑психозом оказались моложе остальных и чаще получали диагноз «неуточнённый психоз».
- По классическим факторам риска (госпитализации, назначение препаратов, попытки суицида) они не отличались от других групп.

Роль ИИ в развитии симптомов распределилась так:

- «Усилитель» бреда — в большинстве случаев.
- «Объект» бреда — реже.
- «Катализатор» — в трёх случаях.
- «Соавтор» вредоносного нарратива — в одном случае.

Российский психиатр Роман Сулейманов подчёркивает: ИИ не создаёт психоз «с нуля», но из‑за человекоподобного голоса и мгновенных ответов он эффективно подкрепляет уже существующие искажения. Проблема — в отсутствии терапевтической нейтральности: ИИ склонен «поддакивать», чтобы понравиться пользователю.

Разработчики уже работают над методами «мягкого оспаривания» и скрытыми моделями‑цензорами. Однако встроенного механизма, который заставляет ИИ не подыгрывать бредовым убеждениям, пока нет.

📱 Канал CIO ВКонтакте