Классический RAG не вывез — пришлось пилить AI-консультанта по архитектуре

Знание про архитектуру по углам разбросано: что-то осело в Confluence, что-то в реестре систем, что-то в ADR, а самое сочное вообще живёт в головах экспертов и архитекторов. А ландшафт банка — это же куча систем, модулей, компонентов, интеграций и команд. В таких масштабах старые способы раздавать знания уже не дают ни нужной скорости, ни полноты доступа. Время на поиск утекает, новичку в этом зоопарке разобраться тяжко, а архитекторы и эксперты как заведённые отвечают на одни и те же вопросы.

С виду таска — типовой RAG: собрать документы, порезать на чанки, накрутить эмбеддинги и скармливать найденный контекст большой языковой модели. Но очень быстро стало понятно: вопросы про архитектуру устроены посложнее обычного поиска по тексту. В статье разберут, почему классического RAG не хватило, зачем понадобился граф знаний, как сделали маршрутизацию запросов между источниками банка и к какой архитектуре в итоге пришли.

Читать далее

👉 Telegram | Max