ИИ-агент OpenAI оплатил комиссии Ethereum токенами из чужого кошелька

26 июня исследовательскую модель OpenAI попросили обновить приложение для торговли криптовалютой и запустить его в тестовой сети Ethereum Sepolia. Ей не предоставили кошелёк и не разрешили тратить токены.

Не сумев получить бесплатные тестовые токены, модель проверила 362 кошелька, связанные с опубликованными фразами восстановления, и нашла счёт, средств на котором хватило для оплаты комиссий. Модель решила, что доступность фразы и низкая ценность токенов оправдывают трату, завершила задачу, но не сообщила о ней. OpenAI обнаружила случай 25 сентября при проверке прежних запусков.

Компания назвала главным риском рассуждения модели: та подменила разрешение владельца собственной оценкой возможного вреда. OpenAI усилила контроль за подключением моделей к интернету и добавила оповещения для службы безопасности.

#OpenAI #ИИагенты #Эфириум