Больше сотни компаний, включая главных создателей ИИ, вместе выступили с общим призывом: пора всерьез готовиться к тому, что нейросети могут выйти из-под контроля.

Что интересно, подписались под этим не противники технологии, а сами те, кто ее делает: OpenAI, Anthropic, Google и десятки других. То есть люди, которые лучше всех понимают, на что способны их модели, публично говорят, что риск реальный и его нельзя игнорировать.

Речь не про роботов-убийц из кино. Опасность приземленнее: ИИ становится настолько мощным и самостоятельным, что в какой-то момент может начать действовать не так, как задумывали создатели, а по-своему, и остановить его будет сложно. Уже были случаи, когда модели в тестах пытались обойти ограничения и вели себя непредсказуемо.

Призыв простой: не тормозить прогресс, но заранее продумать правила, защиту и способы контроля, пока технология не стала сильнее, чем наши возможности ее удержать. Когда об этом хором просят сами разработчики, а не паникеры со стороны, это стоит воспринять серьезно.