Президент американского Института исследований машинного интеллекта…

Президент американского Института исследований машинного интеллекта Нейт Соарес перестал откладывать деньги на пенсию, поскольку опасается скорого уничтожения человечества искусственным интеллектом. По его личной оценке, вероятность такой катастрофы в ближайшие десять лет превышает 50%. Об этом сообщает Business Insider.

Главную угрозу Соарес видит в создании искусственного сверхинтеллекта, способного превзойти человека, сформировать собственные цели, обходить ограничения разработчиков и совершенствовать себя. В худшем сценарии такой ИИ сможет создать автономную инфраструктуру и преобразовать окружающий мир под свои задачи, игнорируя интересы человечества, вплоть до того, что Земля станет непригодной для жизни людей.

Прогноз исследователя значительно мрачнее оценок некоторых его коллег. Так, один из основоположников современных нейросетей Джеффри Хинтон говорил о 10-процентной вероятности вымирания человечества из-за ИИ в течение десятилетия. Сотрудник Anthropic Эван Хубингер оценивал этот риск более чем в 10%.

При этом сам Соарес не считает катастрофу неизбежной. Он призывает правительства остановить обучение наиболее мощных универсальных ИИ-систем и сосредоточиться на разработках для конкретных задач. В качестве примеров исследователь приводит поиск методов лечения рака и повышение безопасности беспилотных автомобилей.