«ИИ у себя дома» перестал быть хобби для гиков. Разбираю стек 2026 года: модели под видеопамять, агенты и безопасность.
📦 Облако или свой компьютер — арифметика, а не религия
Документы, почта, код, которые нельзя никуда отдавать — локально. Тяжёлые рассуждения и свежие новости — в облаке. Правило: два облака и один локальный движок.
Без терминала: Алиса AI на базе YandexGPT-5 Pro (бесплатно, без VPN, работает с файлами), GigaChat, GPT-6.1 Terra от 26 октября.
🧱 Локально: два кирпича
Движок: Ollama (185K звёзд) — стандарт де-факто, одна команда. LM Studio — то же с GUI.
Интерфейсы: Open WebUI (157K) — «ChatGPT, но локально». LocalAI (50K) — OpenAI-совместимый API, меняете адрес — старый код работает. AnythingLLM (68K) — RAG по своей папке с цитатами. Tabby (34K) — copilot в VS Code. n8n (209K) — автоматизации.
🚀 Отдельный случай: модель больше, чем видеопамять
Strata — отдельный движок (MIT, 35K звёзд) раскладывает огромную MoE-модель по трём уровням: VRAM, RAM, SSD.
Кэш экспертов в видеопамяти подстраивается под разговор, и отсюда в документации прямо: объём VRAM важнее скорости видеокарты. Замер на RTX 5070 12 ГБ + 64 ГБ RAM — около 5 токенов/с на коде и 231 токен/с на промпте в 8K. Модель — Qwen3.8-Flash-Next: 512 экспертов, активны 10 на токен.
Не забыть: `--resident-budget-gib` нельзя больше вашей RAM (OOM), запуск только через systemd с MemorySwapMax=0.
Честная оговорка: в том же треде, где автор хвалит скорость, есть обратная оценка — «быстро, но делал тупые ошибки». И сам автор признался, что при долгой работе генерация проседала до 1-2 токенов/с.
📊 Модели — по видеопамяти, а не по хайпу
8-16 ГБ RAM без GPU — Gemma 4 E2B/E4B, Phi-4 mini: чат и черновики.
12-16 ГБ VRAM — Gemma 4 12B, gpt-oss 20B, Devstral: код и документы.
20-24 ГБ VRAM — Qwen3.8-27B (Q4_K_M около 17 ГБ) или Meta Muse Glimmer 30B (15,9 ГБ): агенты и длинные задачи.
Чего дома не надо: DeepSeek V4.1 Flash (552B MoE), Meta Muse Spark Open (816B, около 537 ГБ в 4-бит), Kimi K3.1 Pro.
🤖 Агенты: мозг с руками
На 28 октября 2026 по GitHub API: OpenClaw — 393K, MIT. Hermes Agent — 258K, MIT. OpenCode — 222K, MIT. Codex CLI — 131K, Apache 2.0. Gemini CLI — 109K, Apache 2.0. Cline — 71K, Apache 2.0. Suna — 20K, Elastic 2.0.
«Open source» в 2026-м растянули: Suna под Elastic License 2.0, JetBrains-плагин Cline вовсе не открыт. Та же история у n8n, Open WebUI и Tabby. Лицензию читают в первую очередь.
🛡 Безопасность: часть, которую все пропускают
«Смертельная тройка» Саймона Уиллисона: приватные данные + недоверенное содержимое + связь с внешним миром. Уберите любое из трёх — путь утечки закрыт. Агент, который читает почту и пишет вам в Telegram, становится готовым эксфильтратором, если злоумышленник подмешал инструкцию в веб-страницу.
EchoLeak (CVE-2025-32711): инструкции в обычном письме обошли классификатор prompt injection у Microsoft 365 Copilot — данные утекли через URL картинки в Markdown, без единого клика. Red team Anthropic, февраль 2026: из 25 попыток Claude довёл экзфильтрацию до конца 24 раза.
Что снижает риск сильнее фильтров: информация не даёт разрешения; отдельный профиль пользователя; подтверждение человеком перед необратимыми действиями; песочница и аудит.
⚡ Пять ошибок, которые съедают время
1. Ставить модель «потому что она большая» — влезет ли в VRAM, вопрос первым.
2. Отдавать агенту почту и все файлы «на всякий случай» — это вектор атаки.
3. Считать звёзды качеством и верить, что «open source» = свободная лицензия.
4. Ждать от 8 ГБ VRAM того же, что от 80 ГБ.
Подробнее: https://geriot.ru/ai-doma-2026/