В США 31-летняя сотрудница Amazon Боуэн Ван умерла после того, как, следуя советам ChatGPT, решила отказаться от лекарства от эпилепсии. Об этом сообщает The New York Times.

По данным издания, нейросеть составила для женщины план постепенной отмены препарата за 25 дней. Когда у Боуэн появились тревожные симптомы, напоминавшие приступы, чат-бот убеждал её, что мозг просто адаптируется к изменениям и поводов для беспокойства нет.

В переписке обнаружили как минимум 158 сообщений, в которых женщина выражала тревогу, однако ИИ продолжал давать прежние рекомендации. В феврале Боуэн скончалась. Экспертиза установила внезапную смерть, связанную с эпилепсией.

Родители женщины подали иск против OpenAI, считая, что советы ChatGPT привели к гибели их дочери. В компании выразили соболезнования и заявили, что Боуэн пользовалась старой версией чат-бота, которую впоследствии отключили.