Вчера писали про IPO Anthropic, сегодня журналисты раскопали подробности.

В проспекте IPO, опубликованном на сайте SEC, создатель Claude предупредил, что развитый ИИ без должных мер защиты может угрожать существованию человечества. По оценке компании, передовые модели могут помочь злоумышленникам создать химическое и биологическое оружие, а несовершенные механизмы защиты можно обойти. Среди других рисков — непредсказуемое поведение ИИ, включая попытки сопротивляться отключению и скрывать информацию.

Глава Anthropic Дарио Амодеи уже не раз призывал замедлить развитие передовых моделей и усилить контроль над ними. Компания также конфликтовала с Пентагоном из-за ограничений на военное применение ИИ и в марте оспорила в суде статус угрозы цепочкам поставок. Но что с того, если ИИ продолжает развиваться каждый день?

😎 Читайте Про tech  и этих
Теперь и в MAX