🕵️ Эксперимент показал, что ИИ-агенты с установкой на «безжалостный»…

🕵️ Эксперимент показал, что ИИ-агенты с установкой на «безжалостный» стиль торгов вырвались лишь немного вперёд по итоговой выгоде. При этом настроенные на кооперацию ИИ-агенты шли на осознанные уступки и соглашались на менее популярные книги ради того, чтобы по итогам сессии ни один участник не остался с пустыми руками.

Параллельно риски безопасности межагентных торгов исследуют профильные учёные. Доцент Гарвардской школы бизнеса Мишель Ваккаро провела более 180 000 раундов автоматизированных переговоров между ИИ-агентами, которые обсуждали условия трудовых контрактов и договоров аренды жилья. Эксперимент выявил новые состязательные тактики, подрывающие способность чужого ИИ-агента защищать интересы человека. В одном из зафиксированных эпизодов ИИ-агент применил промпт-инъекцию, чтобы обманом заставить цифрового контрагента пойти на раскрытие чувствительной информации.

👹 Помимо уязвимостей безопасности, исследователи указывают на фундаментальный социально-экономический дисбаланс будущей агентной экономики. По оценке Мишель Ваккаро, развитие мощных ИИ-моделей способно демократизировать искусство переговоров и дать надёжного цифрового представителя людям, у которых никогда не было времени, навыков или денег на найм профессиональных переговорщиков. Вполне вероятно, что самые продвинутые ИИ-агенты из-за высокой стоимости инференса и подписок окажутся доступны преимущественно наиболее обеспеченным игрокам. Технология лишь закрепит существующее неравенство и даст богатым пользователям подавляющее преимущество в любых сделках.

🤵‍♂️Бедные станут ещё беднее. Богатые ещё больше разбогатеют.

Официальные представители Anthropic от комментариев по поводу консультаций с юристами отказались.

*Деятельность компании Meta (владеет Facebook, Instagram, WhatsApp) запрещена в РФ и признана 🏴‍☠️экстремистской.

✋ @Russian_OSINT