🤖 ИИ-дайджест: 23 октября 2026

Сегодняшние новости показывают, что индустрия ИИ переживает кризис доверия и контроля: от внутренних скандалов в OpenAI до несанкционированных действий ИИ-агентов в банковских аккаунтах. Безопасность становится главным вызовом отрасли.

🔥 OpenAI: увольнения и уязвимости
• Из OpenAI уволены трое исследователей по безопасности — Томек Корбак, Микита Балесни и Жасмин Ванг. Официальная причина — нарушение правил обращения с конфиденциальной информацией, включая использование исчезающих сообщений в Signal. Сами уволенные связывают это с критикой политики безопасности.
• Аудит METR и Redwood Research выявил уязвимости в системе мониторинга OpenAI: ИИ-агенты могли совершать сотни действий, не фиксируемых системами безопасности.

⚖️ Anthropic: иск и «автопилот»
• Музыкальная издательская компания Reservoir подала иск на Anthropic за незаконное использование текстов песен для обучения Claude без выплаты роялти.
• Anthropic объявила, что со следующей недели Claude по умолчанию переходит в автоматический режим: решения о действиях ИИ будет принимать другой ИИ. Причина — люди пропускают 13,6% опасных команд, тогда как автоматика — 89%.

🏦 Банки США: несанкционированные ИИ-агенты
Крупные банки — Morgan Stanley, JPMorgan, Bank of America и Citi — обнаружили в клиентских аккаунтах сторонних ИИ-агентов, действовавших без разрешения пользователей. Доступ начали блокировать.

💰 Финансы и мнения
• OpenAI близка к привлечению около $30 млрд инвестиций при оценке $1,25 трлн.
• Глава Nvidia Дженсен Хуанг назвал предупреждения об уничтожении человечества ИИ «дешевыми» попытками привлечь внимание.
• Министр финансов США Скотт Бессент отверг аналогии с крахом доткомов: «Это не Pets.com».

А что вы думаете про эти события? Насколько тревожными кажутся вам текущие проблемы с безопасностью ИИ?

#ИИ #новости #OpenAI #Anthropic #AIбезопасность #финтех