Пять слоёв памяти ИИ-ассистента: что в проде реально тащит, а что так и пылится в библиотеке

Снова одно и то же нытьё про чат-ботов: «он меня не помнит». У самой LLM памяти нет. Всё, что она якобы запомнила, мы сами заталкиваем ей в контекст.

В статье — как память ассистента устроена в проде на 16 тысячах раундов: файлы, PostgreSQL с pgvector, судья на дешёвой модели, выжимки и политика доступа между агентами. Плюс про то, что из задуманного так и осталось валяться в библиотеке.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ