Разработчик ИИ предупредил о риске появления вирусной нейросети

Небольшие модели искусственного интеллекта в ближайшие месяцы могут научиться самостоятельно распространяться между устройствами интернета вещей – например, умными духовками и телевизионными приставками. Об этом говорится в исследовании американской компании Anthropic. В ходе экспериментов исследователи запускали нейросеть в сети из 15 недорогих телевизионных приставок. В другом тесте модель смогла разобраться в работе незнакомого оборудования восьми разных типов. По оценке авторов исследования, если подобный алгоритм сможет распространяться без централизованного управления, остановить его будет сложнее: у него не окажется единой точки отключения. При этом полноценного ИИ-вируса, способного самостоятельно распространяться в реальных условиях, пока не существует. В Anthropic считают, что появление подобных алгоритмов возможно в ближайшем будущем. Для противодействия им потребуется координация производителей устройств и интернет-провайдеров.
#калейдоскоп