Вчера писали про IPO Anthropic, сегодня журналисты раскопали подробности.
В проспекте IPO, опубликованном на сайте SEC, создатель Claude предупредил, что развитый ИИ без должных мер защиты может угрожать существованию человечества. По оценке компании, передовые модели могут помочь злоумышленникам создать химическое и биологическое оружие, а несовершенные механизмы защиты можно обойти. Среди других рисков — непредсказуемое поведение ИИ, включая попытки сопротивляться отключению и скрывать информацию.
Глава Anthropic Дарио Амодеи уже не раз призывал замедлить развитие передовых моделей и усилить контроль над ними. Компания также конфликтовала с Пентагоном из-за ограничений на военное применение ИИ и в марте оспорила в суде статус угрозы цепочкам поставок. Но что с того, если ИИ продолжает развиваться каждый день?
😎 Читайте Про tech и этих
Теперь и в MAX
В проспекте IPO, опубликованном на сайте SEC, создатель Claude предупредил, что развитый ИИ без должных мер защиты может угрожать существованию человечества. По оценке компании, передовые модели могут помочь злоумышленникам создать химическое и биологическое оружие, а несовершенные механизмы защиты можно обойти. Среди других рисков — непредсказуемое поведение ИИ, включая попытки сопротивляться отключению и скрывать информацию.
Глава Anthropic Дарио Амодеи уже не раз призывал замедлить развитие передовых моделей и усилить контроль над ними. Компания также конфликтовала с Пентагоном из-за ограничений на военное применение ИИ и в марте оспорила в суде статус угрозы цепочкам поставок. Но что с того, если ИИ продолжает развиваться каждый день?
😎 Читайте Про tech и этих
Теперь и в MAX
Просмотры: 85