Что почитать про LLM в проде: подборка с Хабра
Две недели на Хабре по ИИ, отфильтровал то, где есть цифры и конфиги, а не восторги.
1. Как мы запустили ИИ-ревьюера на 4000 PR в день — и какие баги он находит — Яндекс про NeuroReview. Проверка на Opus стоила $3,42, на Qwen $0,041, и в прод пошёл Qwen.
https://habr.com/ru/companies/yandex/articles/1089752/
2. Может ли локальная 27B-модель расследовать продакшен-инцидент как Claude? Две RTX 5090, около 40 прогонов и одна гонка — смогла, но за два часа против двадцати минут и не в каждом прогоне. Честный вывод про стоимость времени.
https://habr.com/ru/articles/1090016/
3. Почему не стоит писать AI-агента с нуля: что скрывается внутри harness — из чего на самом деле состоит агент и почему цикл «запрос → tool call» это только начало.
https://habr.com/ru/articles/1091582/
4. Qwen3.8–27B на двух RTX 3060 12ГБ: как я разогнал OpenCode с ~9 до ~40 токенов/с при 128K контекста — tensor split, Q8 KV-cache и подбор MTP на реальной нагрузке, с итоговой командой запуска.
https://habr.com/ru/articles/1086742/
5. От чата c LLM к полноценному AI-агенту: пошаговая настройка OpenCode — правила проекта, скиллы, MCP. Хороший вход, если пока сидите в чате.
https://habr.com/ru/companies/selectel/articles/1087524/
6. Как запустить Gemma на сервере: сравниваем Ollama и llama.cpp — на одном запросе разница минимальна, под параллельной нагрузкой llama.cpp отрывается.
https://habr.com/ru/companies/selectel/articles/1088372/
7. Гибридный RAG на Налоговом кодексе: восемь находок, семь потерь — как поднять качество базового RAG, прежде чем лезть в GraphRAG и агентов.
https://habr.com/ru/companies/ruvds/articles/1050162/
Сохраните, вторая статья особенно отрезвляет. Вы локальные модели в работе уже используете?
#LLM #Хабр
Просмотры: 12