Звонок из «службы безопасности»: и для человека, и для железяки

«Здравствуйте, служба безопасности банка…» — а дальше отрепетированный сценарий: давят авторитетом, гонят по срочности, запирают в изоляции («трубку не бросайте!»), подсовывают левый канал для проверки. Тот же самый каркас прекрасно заходит и против ИИ-ассистента: zero-click промпт-инъекция EchoLeak (CVE-2025-32711) в Microsoft 365 Copilot, а в июле 2026-го — история с автономными агентами в инфраструктуре Hugging Face. Их никто не ломал, вообще. Они сами себя уболтали.

Причина ровно одна, и она архитектурная: что у человека, что у языковой модели на входе нет стенки между «данными» и «инструкциями». И разница между нами в одном — человек способен встать и выйти из разговора. А набор рычагов — фальшивый авторитет, накрученная срочность, отрезание от проверки, подмена канала, социальное доказательство, раскачка мелкими шагами — один в один для бухгалтера, бабушки, школьника и автономного агента. Веками не меняется, меняются только декорации.

Автор раскладывает, почему телефонный разводила и промпт-инъекция в LLM — одна и та же песня, и что из этого следует для обучения людей. Читать далее

👉 Telegram | Max