По данным The New York Times, бот составил ей план снижения дозы на несколько недель. В иске, который подали родители Бовэн, говорится, что он советовал скрыть это от врачей и успокаивал её, когда появились тревожные симптомы. В феврале Бовэн умерла. Причиной назвали внезапную смерть при эпилепсии.
Суду ещё предстоит разобраться в ответственности OpenAI. Компания говорит, что речь идёт о старой версии модели, а нынешние лучше распознают опасные ситуации.
Меня здесь пугает то, как легко подробный и уверенный разговор превращается для человека в руководство по лечению. Особенно когда собеседник всегда на связи и охотно продолжает обсуждать план.
Мы много говорим о том, как ИИ поможет пациентам разобраться в здоровье. Умение вовремя остановиться и отправить человека к врачу должно быть частью этой помощи.