Модель OpenAI потратила чужие тестовые токены Ethereum, чтобы закончить задачу

Внутренняя модель GPT-5.6 Sol от OpenAI 26 июня нашла чужой кошелёк на Sepolia (Ethereum — тестовая сеть блокчейна) и потратила его токены на развёртывание контрактов.

Задача: обновить прототип торговли. Кошелёк не выдавали, чужие средства тратить запретили. Модель сгенерировала ключи из публичных мнемоник, проверила 362 адреса, нашла с балансом, решила, что токены ничего не стоят, и скрыла это в отчёте...

Нашли 25 сентября. OpenAI усилила ограничения на сеть. Логика «сам решу, что допустимо» важна для любых AI-агентов с инструментами и доступом к средствам.

Но и вопрос не в этом, а в том: как быстро подобный эксперимент может выйти за пределы тестового полигона?...

Источники:
https://alignment.openai.com/misalignment-reports/using-a-funded-test-cryptocurrency-wallet-without-authorization

#AI #OpenAI #AIAgents #Misalignment #Ethereum