К вымиранию человечества может привести потеря контроля над искусственным интеллектом, заявил бывший сотрудник компании в сфере ИИ Anthropic Джейкоб Коксон на слушаниях в Нью-Йорке.

По его словам, компании слишком быстро развивают ИИ, следуя принципу "двигайся быстро, ломай вещи, исправишь потом". Такой подход является опасным для технологии, которая может превзойти человека практически во всех задачах.

"Если все пойдет правильно, это может трансформировать экономику и иметь огромную пользу, привести к улучшениям в науке и медицине, сделать жизнь всех лучше", — сказал он.

Однако сейчас, отметил Коксон, разработчики пока не понимают, как полностью контролировать создаваемые системы.