ИИ-модели в ближайшие месяцы могут научиться распространяться по ТВ-приставкам без доступа к дата-центрам, предупреждают в Anthropic.

Они будут способны самовоспроизводиться даже на недорогих Android TV и умной бытовой технике, говорится в релизе компании.

Другие детали:

▪️противостоять процессу автономного «размножения» ИИ-моделей сложно, у них нет централизованной точки отключения;

▪️в отличие от обычных цифровых вирусов, нейросети могут самостоятельно распознавать незнакомые устройства;

▪️информация подтвердилась в ходе эксперимента, который провели в Anthropic. Для этого в одну сеть объединили 15 ТВ-приставок, подключённых к интернету;

▪️модели могут обучаться на ходу, передавая друг другу заметки о том, какие методы сработали;

▪️при этом сейчас нейросети ещё допускают ошибки при сборке всей цепочки взаимодействия.

«Мы должны стремиться к усилению защиты наших систем, чтобы затруднить распространение таких репликаторов, но также готовиться к миру, где они останутся с нами навсегда», — добавили в Anthropic.

Ранее сообщалось, что ИИ-компании готовятся к возможной катастрофе, связанной с искусственным интеллектом. Глава Anthropic Дарио Амодеи среди прочих призывал замедлить развитие нейросетей.