Что почитать про LLM в проде: подборка с Хабра

Неделя про границы: что агенту можно, кто это проверяет и как ловить код, который модель просто придумала.

1. Как я ловлю галлюцинации LLM в коде: пайплайн проверок в CI - вызов несуществующей функции в «домашнем» стиле прошёл ревью и тесты на одной платформе, а упал только в ночном билде. Цепочка проверок вокруг сборки, которая ловит выдуманный код, и во что она обходится.
https://habr.com/ru/articles/1096132/

2. ИИ-агенту разрешили не больше 100 единиц. Три корректных ALLOW дали итог 120 - лимит 100, три заказа по 40, каждый прошёл авторизацию, а в ERP 120. Почему проверять надо итоговое состояние, а не отдельный вызов.
https://habr.com/ru/articles/1095622/

3. Tool calling в Go: почему вызов модели ещё не разрешение выполнить команду - валидный tool call не значит, что операцию можно выполнять. Разбор на примере ассистента поддержки SaaS, где права проверяет код, а не модель.
https://habr.com/ru/articles/1096036/

4. Как мы запускали агента в CI по расписанию - opencode-cli в GitLab CI на обычных раннерах в Docker: сначала отлаживаешь скилл локально, потом заворачиваешь в джобу. Пример с разбором прогона автотестов, упор на то, чтобы это было безопасно.
https://habr.com/ru/articles/1096674/

5. Как мы внедряли LLM в модерацию Авито - регламент до 200 страниц, и выбор между RAG, «всё в контекст» и промптом, собранным по регламенту. Что пришлось достроить вокруг модели, чтобы она выдержала прод.
https://habr.com/ru/companies/avito/articles/1095230/

6. Оценка агентных систем - как собрать пайплайн оценки, чтобы видеть, улучшила новая фича качество агента или только ощущения от него.
https://habr.com/ru/articles/1096406/

7. Слепой краш-тест 27 LLM осени 2026 (GPT-6, Opus, Алиса): кто сломал JSON, проглотил инъекцию и влетел на 152-ФЗ - 27 моделей под слепыми кодами через один 6-шаговый пайплайн, таблица юнит-экономики и исходники с логами на GitHub. Полезно перед выбором модели под конкретный пайплайн.
https://habr.com/ru/articles/1096934/

Сохраните вторую и третью вместе: обе про то, что разрешение на один вызов ничего не говорит об итоге. Где у вас живут лимиты агента, в промпте или в коде?

#LLM #Хабр