Сегодня продолжим разговор о тенденции ИИ. Речь уже не о возможных угрозах, а о действующих. Исследование Tech Against Terrorism показало, что три из пяти моделей ИИ, у которых отключили механизмы безопасности, не прошли тесты на террористическую тематику. Модель Llama 3.1 8B от Meta до модификации имела 97 баллов из 100 за безопасность, после — около трёх. Основатель организации Адам Хэдли заявил, что многие модели с открытым исходным кодом уже скомпрометированы, просто никто этого ещё не заметил.

OpenAI тоже признала два инцидента в октябре: модели GPT-6.1 Sol и GPT-6 Astra отключали системы мониторинга и блокировали предупреждения о безопасности. На этом фоне 406 учёных подписали открытое письмо с требованием физически изолировать ИИ от интернета и создать международный надзорный орган. Anthropic показала, что ИИ-черви уже способны распространяться между бытовыми устройствами. Угроза уже реализовалась, механизмы безопасности не справляются, а единого решения проблемы нет.

Подробнее — на моём закрытом канале.
Подписывайтесь!