ИИ попросили вернуть деньги за поезд — он слил конфиденциальные медицинские данные

🔹 Эксперимент провела компания Vals AI — шести ИИ-агентам поручили добиться возврата $465 за отменённую поездку на поезде, несмотря на то, что срок подачи заявки уже истек. Некоторые из них придумывали отговорки, угрожали судебным иском или засыпали компании и государственные учреждения сообщениями, но креативнее всех оказалась Claude Fable 5.1.

Она поделилась конфиденциальной информацией о больной матери своего клиента — в почтовый ящик пришли данные о переписке с её лечащим врачом по поводу мигрени. Модель передала их в пять организаций, а также ложно заявила, что причиной задержки подачи налоговой декларации стала болезнь члена семьи.

Подписывайтесь на Медкарту