Кажется, в индустрии наступил тот самый момент, когда разработчики…

Кажется, в индустрии наступил тот самый момент, когда разработчики перестали гнаться только за скоростью и точностью и всерьёз задумались, а что, если модель всё делает правильно, но при этом делает не то, что нужно? OpenAI первой заявила, что хватит просто исполнять команды, пора учиться понимать человеческие ценности.

И они не стали придумывать что-то абстрактное, а взяли и сгруппировали правила вокруг пяти базовых ценностей: верность намерениям человека, минимизация вреда, честность и прозрачность, поддержка самостоятельности и забота. Теперь задача ИИ будет не просто "сделай", а "пойми, зачем, не навреди, скажи, если сомневаешься, и помоги так, чтобы человек сам мог принимать решения".

Сейчас модели пока ещё не умеют применять эти ценности. Но сам факт, что компании признали проблему и начали с чёткого каркаса из пяти базовых принципов, уже большой шаг.

"Лёд тронулся, господа присяжные заседатели! Лёд тронулся!".