🧠 JOLT: учителя модели тоже нужно обучать
📅 21 октября 2026 — разбор Perplexity; препринт опубликован 7 октября
Исследователи Perplexity и NVIDIA предложили JOLT: одна языковая модель выступает учителем и учеником. Учитель получает дополнительную информацию — например, проверенное решение. Обучают обе роли с общими параметрами, стараясь сделать подсказки полезными именно нынешнему ученику. Вариант JOLT+ добавляет награду за собственный результат ученика.
По данным авторов, в AppWorld с Qwen3-4B-Instruct JOLT+ достиг 72,09% против 62,20% у GRPO. Это средняя доля пройденных проверок состояния на 57 заданиях, по трём обучающим запускам. Обычный JOLT здесь набрал 51,92% — добавление «плюса» существенно.
На MATH с Qwen3-0.6B авторы оценили расход обработанных обучающих токенов как в 6,5 раза меньший при точности 63,44%. Бюджет JOLT получен из подогнанной кривой; это оценка токенов, а не доказанная экономия денег или времени на любом оборудовании.
💡 Польза для команд, дообучающих AI: проверять, помогает ли обратная связь учителя ученику, а не только насколько хорошо учитель решает задачу сам.
Пока это препринт и авторские эксперименты. В блоге код обещают открыть позже; универсального способа улучшить любой AI без подготовки данных и обучения не показано.
Источник · Исследование
Обложка: Perplexity, из оригинального разбора
#AIнаука #ОбучениеМоделей #Perplexity