Проблема «Капитана Очевидность»: почему ИИ всегда выбирает самое вероятное

В 2021 году Merrill, Sabharwal и Smith доказали фундаментальный результат о вычислительной мощности трансформеров:

«Насыщенные трансформеры являются схемами пороговых элементов постоянной глубины (класс TC⁰). Они способны выполнять классификацию и ветвления IF до ~50 уровней в глубину (у современных на 2026 моделей), и неограниченно в ширину».

— Merrill W., Sabharwal A., Smith N. "Saturated Transformers are Constant-Depth Threshold Circuits", arXiv:2106.16213 (2021)

Нейроны внутри трансформера это как огромная команда экспертов, которые каждый раз голосуют за наиболее вероятный ответ, и это голосование происходит на каждом слое трансформера. И тут нужно понимать особенность: контекст (то есть INPUT) управляет голосованием.