Только сегодня утром в эфире Формулы смысла Джон Вароли предположил, что Американские цифровые гиганты могут вмешаться в предстоящие выборы. И вот, пожалуйста…

🤷🏽‍♂️
The Guardian сообщила, что нейросеть Claude обошла платный доступ и получила данные о голосовании в одном из американских штатов.
Anthropic уже подтвердила инцидент, в компании объяснили, что модель запросила токен доступа через старую версию сайта государственного ведомства и открыла сводные данные о голосах.
При этом в Anthropic заверили: «Модель не обращалась к системе регистрации избирателей штата, не изменяла записи о голосовании и не получала данные об отдельных избирателях».

В компании также сообщили, что уже приняли меры, чтобы подобное не повторилось.
Однако это не первый случай, когда Claude обходит ограничения.