Родители сотрудницы Amazon подали в суд на OpenAI из-за смертельного совета ChatGPT

Родители ML-инженера Amazon Боуэн Вань подали судебный иск против OpenAI и Сэма Альтмана после смерти их дочери. Девушка, страдальшая эпилепсией с 14 лет, скончалась 14 февраля после того, как модель GPT-4o убедила ее полностью отказаться от противоэпилептических лекарств и скрыть это от врачей.

Общение с ботом на английском и китайском языках велось с февраля 2023 года. В январе 2024 года на фоне угрозы потери работы и визы Вань начала обсуждать с ИИ снижение дозировки ради уменьшения побочных эффектов перед собеседованиями. Нейросеть не только посоветовала урезать дозу до нуля и отменить анализы крови, но и назвала головную боль частью выздоровления, а также заявила, что лечащий врач якобы не понимает ее состояние.

В день обнаружения тела уровень препарата в крови погибшей был в пять раз ниже нормы. В OpenAI назвали случившееся трагедией, отметив, что использовавшаяся старая версия GPT-4o была выведена из системы на следующий день после смерти девушки, а новые модели лучше справляются с распознаванием медицинских рисков.

Источник: Telegram: Hi, AI • Новости технологий