НОВЫЙ МЕТОД ОТ МФТИ УЛУЧШАЕТ ОБУЧЕНИЕ НЕЙРОСЕТЕЙ

Ученые МФТИ представили метод SimplexLoRA, который оптимизирует распределение ресурсов при дообучении нейросетей. 🎓 Этот подход позволяет автоматически определять наиболее важные слои модели и направлять на них больше ресурсов, что улучшает качество результатов без увеличения вычислительных затрат. 📈 Метод будет представлен на конференции EMNLP 2026 в Будапеште в октябре.

🛠️ В отличие от традиционных методов, SimplexLoRA перераспределяет уже имеющиеся ресурсы, а не добавляет новые, что упрощает процесс обучения. 🔍 Эффективность метода была проверена на 12 различных задачах, включая анализ текста и математические рассуждения, с использованием нескольких языковых моделей.

Источник: CNews AI