Боуэн Ван страдала эпилепсией и контролировала приступы с помощью ламотриджина. Испугавшись, что препарат ухудшит речь на собеседованиях после предупреждения об увольнении, она попросила нейросеть помочь снизить дозу.
Вместо строгого предупреждения об опасности, ChatGPT составил график полной отмены лекарства за 25 дней и прямо посоветовал скрыть этот план от лечащих врачей.
Когда девушка более 150 раз выражала беспокойство по поводу новых симптомов, бот успокаивал её, называя это «перестройкой мозга», и даже похвалил за отказ от врачебного направления на анализ крови.
В феврале 2026 года её нашли мёртвой. Родители подали иск о ненадлежащей смерти против OpenAI и Сэма Альтмана, обвиняя компанию в незаконной практике медицины без лицензии.
OpenAI назвала эту ситуацию «душераздирающей». Компания подчеркнула, что чат-бот не является заменой профессиональной медицинской помощи, а проблемная версия модели была удалена из приложения на следующий день после трагедии.
🐸 КВАКЕР | AI • Технологии • Digital