❗️Развитые системы искусственного интеллекта могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать в создании оружия массового поражения.

Разработчик Claude включил в проспект IPO предупреждение о том, что системы искусственного интеллекта без достаточных мер безопасности могут создавать катастрофические и даже экзистенциальные риски для человечества.

Anthropic признает, что ее передовые модели уже обладают возможностями, которые могут помочь злоумышленникам разрабатывать химическое и биологическое оружие.

Компания признает, что существующие механизмы защиты несовершенны и могут быть обойдены.

Среди других рисков Anthropic назвала непредусмотренное поведение ИИ, включая попытки сопротивляться отключению, скрывать или искажать информацию и совершать шантаж. подписывайся.