Эффект потёмкиной деревни: ИИ подражает, а не оптимизирует

Интересно. В 2026 году японский разраб переписал SQLite на Rust с помощью ИИ, и у него получилось. Но. Продукт оказался работоспособным, но в 20 000 раз медленнее оригинала. Причиной этому послужила сикофантия — по русски говоря подхвалимтсво.

«ИИ подходил к "золотым стандартам разработки" формально, и они вызывали у него сильное смещение от оптимальных решений. Это "сикофантия" — подражание стандарту без добавки эффективности. Модель копирует то, что "принято", а не ищет то, что "лучше"».

— Наблюдение из анализа GRPO vs PPO, см. также "Tuned Lens / Sycophancy in LLM", Feng et al., Hong Kong Polytechnic / HKUST (2026)

В работе Feng et al. показано, что подхалимство — прямое следствие RLHF/DPO-обучения. Модель учится нравиться критику, а не находить объективно лучшее решение. Если японцу нужен был SQLite, ИИ сделал ему SQLite. Мистер не уточнял критерии производительности, скорости, потому ИИ среагировал вполне ожидаемо: примат «очевидного» SQLite над продакт-тонкостями — бизнес-цели, бизнес-инварианты и иные характерные для типичного SQLite параметры (в следующий раз будет). Возникает эффект «Потёмкиной Деревни», когда снаружи всё казалось бы идеально, но по факту решение функционально кастрированное.