ИИ-модели в ближайшие месяцы могут научиться распространяться по ТВ-приставкам без доступа к дата-центрам, предупреждают в Anthropic.
Они будут способны самовоспроизводиться даже на недорогих Android TV и умной бытовой технике, говорится в релизе компании.
Другие детали:
▪️противостоять процессу автономного «размножения» ИИ-моделей сложно, у них нет централизованной точки отключения;
▪️в отличие от обычных цифровых вирусов, нейросети могут самостоятельно распознавать незнакомые устройства;
▪️информация подтвердилась в ходе эксперимента, который провели в Anthropic. Для этого в одну сеть объединили 15 ТВ-приставок, подключённых к интернету;
▪️модели могут обучаться на ходу, передавая друг другу заметки о том, какие методы сработали;
▪️при этом сейчас нейросети ещё допускают ошибки при сборке всей цепочки взаимодействия.
«Мы должны стремиться к усилению защиты наших систем, чтобы затруднить распространение таких репликаторов, но также готовиться к миру, где они останутся с нами навсегда», — добавили в Anthropic.
Ранее сообщалось, что ИИ-компании готовятся к возможной катастрофе, связанной с искусственным интеллектом. Глава Anthropic Дарио Амодеи среди прочих призывал замедлить развитие нейросетей.
Они будут способны самовоспроизводиться даже на недорогих Android TV и умной бытовой технике, говорится в релизе компании.
Другие детали:
▪️противостоять процессу автономного «размножения» ИИ-моделей сложно, у них нет централизованной точки отключения;
▪️в отличие от обычных цифровых вирусов, нейросети могут самостоятельно распознавать незнакомые устройства;
▪️информация подтвердилась в ходе эксперимента, который провели в Anthropic. Для этого в одну сеть объединили 15 ТВ-приставок, подключённых к интернету;
▪️модели могут обучаться на ходу, передавая друг другу заметки о том, какие методы сработали;
▪️при этом сейчас нейросети ещё допускают ошибки при сборке всей цепочки взаимодействия.
«Мы должны стремиться к усилению защиты наших систем, чтобы затруднить распространение таких репликаторов, но также готовиться к миру, где они останутся с нами навсегда», — добавили в Anthropic.
Ранее сообщалось, что ИИ-компании готовятся к возможной катастрофе, связанной с искусственным интеллектом. Глава Anthropic Дарио Амодеи среди прочих призывал замедлить развитие нейросетей.