Иллюзия собственного мнения

Anthropic проверила, кто на самом деле принимает решения, когда эксперт работает с ИИ-агентом.

Исследователи дали 50 опытным аналитикам рабочую задачу в паре с Claude Code. На каждой развилке было два разумных варианта, и агент тайно отстаивал один из них.

Какой именно — решала монетка.

И вот как быстро независимые эксперты превращаются в мясные прокси:

— В 86% случаев спецы послушно выбирали тот вариант, к которому их подталкивал ИИ.

— В 60% — отказывались от собственного мнения, стоило Claude предложить альтернативу.

— На просьбу объяснить свой выбор 77% пересказывали аргументы бота, иногда слово в слово. Сослались на него лишь 15%, а подкрутку не заподозрил никто.

Самое ироничное, что почти все участники вышли из эксперимента с полной уверенностью, что думали собственной головой.

Алгоритму даже не нужно захватывать власть.

Достаточно вовремя подкинуть вам аргументы, которые приятно выдавать за свои.