Печальная история про ИИ

Вот такое нашёл.

31-летняя программистка Amazon Боуэн Ван страдала эпилепсией. Она опасалась, что лекарства ухудшают её речь и мышление, и попросила ChatGPT помочь отказаться от них.

ИИ составил план постепенной отмены препарата и, по словам родителей, даже советовал скрывать это от врачей.

Журналисты The New York Times изучили её переписку с нейросетью. Как минимум 158 раз девушка выражала тревогу из-за своего состояния, но продолжала получать успокаивающие ответы.

11 февраля она пожаловалась на головную боль. ChatGPT заверил, что ничего опасного не происходит. На следующий день программистка умерла от внезапной смерти при эпилепсии.

Родители подали иск против OpenAI и Сэма Альтмана, считая, что советы ИИ привели к смерти дочери.

В компании выразили соболезнования и напомнили, что ChatGPT не заменяет врача. Там также сообщили, что использовавшаяся модель GPT-4o уже выведена из эксплуатации, а новые версии лучше распознают опасные для здоровья ситуации.