➡️ От топологии данных — к надёжности нейросетей

Лаборатории математических методов генеративного искусственного интеллекта Центра ИИ Сколтеха существует чуть более года. Одно из направлений ее исследований — применение топологических методов к анализу внутреннего устройства современных больших языковых моделей. О результатах этого направления рассказывает руководитель лаборатории, профессор Сергей Баранников.

✔️ Статья "Topology of Attention Detects Hallucinations in Code LLMs" была принята в основную программу EMNLP 2026 для устного доклада, куда отобрали около 2% от общего числа поданных работ.

"Языковая модель может написать программу, которая выглядит убедительно, но не решает поставленную задачу. В CodeTD мы предложили оценивать вероятность такой ошибки ещё до выполнения кода — по внутренним сигналам самой модели. Для этого карты внимания преобразуются в графы,…"

#ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект