Библиотекарь для корпоративных документов

На занятии я объясняю RAG через библиотекаря. Ему задают узкий вопрос, и он идёт к нужной полке. Ежедневно перечитывать библиотеку целиком для этого не требуется.

В базе знаний похожая механика. Документы заранее готовят к поиску и делят на фрагменты. Когда приходит вопрос, система выбирает подходящие части и передаёт их языковой модели вместе с запросом. Ответ строится с опорой на найденный материал.

Отсюда важное ограничение. Если на полке лежит старый регламент, красивый ответ может пересказать старое правило. Если поиск достал соседний раздел, модель будет работать с неподходящим контекстом. Сам факт подключения базы знаний ошибок не отменяет.

В рабочем ответе полезно сохранять название документа и конкретный фрагмент, на который опирается вывод. Тогда человек открывает источник и сверяет нужное место. Для нового приказа требуется обновление базы и проверка поиска по нему.

Значительная часть работы здесь приходится на саму библиотеку. Состав документов, актуальные версии и понятный источник ответа определяют, насколько результату можно доверять.