ИИ – не источник знания, а инструмент работы с источником

Коллега в своем канале AI песочница инженера   пишет о новой реальности при работе с ИИ:

...ценность сместилась с «как спросить» на «как подготовить данные, чтобы ИИ не мог ответить неправильно»

и разбирает 3 принципа построения инженерной системы на базе ИИ, где промпт — просто способ достучаться до правильной инфраструктуры, посмотрите у него в посте, это такой легкий лайфхак:

1. Гибридный поиск: ИИ должен находить точно, а не догадываться

2. Контекст важнее точности поиска

3. Не давайте модели мусор

Что хочу добавить. Сегодня мы слышим много фантазий про чудодейственность ИИ, которые в целом формируют представление об ИИ как поисковой системе: спроси и я отвечу тебе - как. Не превращайте ИИ в Яндекс или Google!

ИИ – это не замена цифровизации, а надстройка над формализованными процессами и подготовленными данными.

Данные готовите вы, ну и процессы формализуете тоже вы, ИИ за вас это не сделает.

Когда инженер спрашивает: «Что требует СП?», ИИ не должен вспоминать это требование из своих источников и тем более искать похожий ответ. Его задача другая – обработать уже найденные и подготовленные вами данные: сопоставить требования, извлечь параметры, выявить противоречия, структурировать результат, подготовить вывод.
То есть, ИИ за вас структуру постановки задачи не сделает, он просто не знает – что вам требуется в каждом конкретном случае.

И, как коллега правильно пишет, в данном случае уместно использование RAG (Retrieval-Augmented Generation) - генерация с использованием найденного контекста.

То есть, вы задаете базу документов, далее происходит поиск нужной информации в этой базе, найденные фрагменты передаются в LLM (модель ИИ, которая работает с текстом: понимает запрос, анализирует контекст и формирует текстовый ответ), которая формирует на их основе ответ. Который вы ручками проверяете)))

Важно отделить и понять: RAG требуется  не для того, чтобы «научить ИИ СП», а чтобы в момент запроса найти в подготовленном вами массиве конкретные релевантные фрагменты и передать их модели как контекст. Модель не является хранилищем нормативных требований. Она является инструментом обработки найденных фактов по вашему запросу.

Но, хоть убейте, я не очень понимаю, зачем выпускнику инженерного ВУЗа с опытом практической деятельности, с РД в одной руке, с мобилой на которой доступ к Техэксперту, подмышкой папка с ТТК, в нагрудном кармане свернутый вчетверо ППР – интересоваться у ИИ какой должен быть в перекрытии бетон)))

Наверное ИИ должен решать задачи превосходящие чем эту, по сложности))), к примеру, вот типовые задачи ИСП и 6 классов технологий ИИ, можно ведь пойти немного дальше, чем поиск пункта из СП: