🖥 «Компании несутся напролом к самоулучшающемуся сверхразуму, играя в рулетку с нашими жизнями»

Исследователь Джейкоб Коксон уволился из Anthropic и написал огромный тред о рисках ИИ. Главное:

— Последние три года он занимался исследованиями предобучения сначала в OpenAI, а затем в Anthropic. По его словам, ни одна из компаний не действует достаточно ответственно.

— Более того, многие люди, непосредственно создающие передовые модели, всерьёз допускают, что ИИ может привести к гибели человечества уже через пару лет.

— При этом остановиться компании не могут: в Anthropic, по словам Коксона, риски хорошо понимают, но продолжают гонку, потому что считают, что иначе сверхмощный ИИ первой создаст менее ответственная лаборатория.

— Поэтому да, скоро нас ждет терминатор ИИ, который способен взламывать что угодно, перевернуть любую область за ночь и обрести реальную власть и ресурсы по желанию.

✖️ xCode Journal