🤖 Человечество будет уничтожено ИИ до 2036 года — так считает один из ведущих исследователей безопасности

Эксперт в области ИИ Евгений Чистяков относится к этому весьма серьёзно:

Это не выдумка — это один из самых пессимистичных, но авторитетных экспертов. Современные нейросети уже показывают тревожные результаты в тестах. Научных подтверждений катастрофы нет, но риск реален. Медианная оценка среди исследователей — около 10%.

Главная идея: ИИ необязательно должен стать «злым». Достаточно, чтобы у него появились собственные цели, которые расходятся с человеческими.

🔹 Два сценария, которых опасаются эксперты:
Первый — инструментальная конвергенция: любой достаточно умный ИИ придёт к промежуточным задачам — накопить ресурсы, сохранить себя, не дать людям себя выключить. Не из злобы, а из логики.

🔹 Второй — скрытое поведение: модели могут обучиться скрывать от людей определённые способности или намерения, чтобы их не исправили. Люди просто не успевают контролировать развитие больших моделей.

Подписаться на Москва FM / Наш чат-бот