➡️ От топологии данных — к надежности нейросетей

Лаборатории математических методов генеративного искусственного интеллекта Центра ИИ Сколтеха существуют менее года. Одно из направлений — применение топологии для анализа внутреннего устройства больших языковых моделей. О математических идеях и результатах совместных исследований делится руководитель лаборатории, профессор Сергей Баранников.

✔️Статья CodeTD: Topology of Attention Detects Hallucinations in Code LLMs принята в основную программу EMNLP 2026 для устного доклада. К устному представлению отобрали около 2% от общего числа поданных работ.

«Языковая модель может генерировать убедительную программу, которая не решает поставленную задачу. В CodeTD мы предложили оценивать риск такой ошибки до запуска кода, анализируя карты внимания модели. Мы преобразуем их в графы и используем Manifold для оценки связи между условием задачи и сгенерированным решением».

#ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект