Новое Распределяем каналы MAX по категориям и территориям. Читать новость
Открытый канал ID 76924112486917

RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Carbon | Kimi K3.1 | Claude Opus 5.5 | GPT-6.1 Terra | Claude Duet | Mistral Large 4 | MiniMax M3.1 | DeepSeek V4.1 | Grok Voice 3.0 | World Models

Нейросети и AI по делу: новые модели, агенты, инструменты и практичные приёмы.

Каналов в рубрике
5 768
Место этого канала
№ 2 957
Открыть рубрику →
Россия
Открыть в MAX

Публикации за период

По реакциям

Поиск и вся лента — после бесплатной регистрации. Свои даты — по подписке; владелец канала видит их бесплатно. Сортировка по реакциям — по подписке. Зарегистрироваться

Загрузка…

Кейс на Хабре: видеомодель LTX-2.5 distilled на 22 млрд параметров влезла в RTX 3080 с 10 ГБ VRAM. Весов около 65 ГБ — в карту не лезут.

Два флага: --quantization fp8-cast переводит веса на лету, --offload cpu держит блоки в RAM и подаёт на карту по очереди. Нужны от 32 ГБ RAM (лучше 64) и подкачка на 32 ГБ. Денойзинг 25 секунд, план — около 5 минут: остальное время веса перечитываются. Узкое место — диск и RAM, не GPU.

Веса под community-лицензией LTX-2.x, не open source.
Просмотры: 4
Перейти в пост Открыть в MAX Сообщить о неточности
MTP-голову доучивают вместе с моделью, но в градиент попадает лишнее. Около 80% нормы — шумный остаток. Он не балласт: тянет против обновления обычного NTP-градиента и держит полезный сигнал в тени.

Soft-MTP (arXiv 2610.38331) отрезает этому остатку путь через detach. Ноль новых параметров, память и скорость те же, 49 748 против 49 783 ток/с.

Отдача относительная, и это против обычного MTP, а не модели без него: +1,8–2,2% к длине принятия в спекулятивном декодинге, +1,4–1,5% к скорости. Собственные прогоны одного автора на моделях 167M–1,2B.
Просмотры: 3
Перейти в пост Открыть в MAX Сообщить о неточности
«Обогнали конкурента» — это про выборку не меньше, чем про модель. Тест из задач одного уровня мерит совпадение с сильными местами, а не способность.

NeurIPS 2026 (arXiv, 21.10): две проверки — DDM, насколько неровно распределена трудность, и Max Gap, самый широкий пустой участок.

У AMC23 разброс ровный, дыра 0,217; у ScienceQA перекос 0,178 при меньшей дыре. Лечат BenchFill: задачи переписывают под нужный уровень. Код выложен публично.
Просмотры: 3
Перейти в пост Открыть в MAX Сообщить о неточности
Движок распознавания речи в Swift меняется одной строкой импорта… — видео, канал «RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Carbon | Kimi K3.1 | Claude Opus 5.5 | GPT-6.1 Terra | Claude Duet | Mistral Large 4 | MiniMax M3.1 | DeepSeek V4.1 | Grok Voice 3.0 | World Models» ▶ видео
Движок распознавания речи в Swift меняется одной строкой импорта — AnySpeechRecognizer зеркалит API Apple Speech (macOS 26). По умолчанию Apple, вместо неё — Parakeet или Qwen3-ASR.

Диаризации у Apple Speech нет; Sortformer считает до четырёх голосов с перебиваниями. Замеры автора на M4 Max: Parakeet Unified 1,43% WER против 2,12% у Apple на LibriSpeech, на встречах AMI WER выше 23% у всех.

Второй пакет — AnyDecisionModel: ответ из вероятностей меток, демо на видео. Apple silicon, macOS 26+, Swift 6.2+.
Просмотры: 2
Перейти в пост Открыть в MAX Сообщить о неточности
Nemotron 3.5 Transcribe от NVIDIA — один чекпоинт на четыре задачи. Расшифровка 40 языков, перевод 31, диаризация до 8 спикеров, вопросы по аудио — на английском. Веса выложены на HF, лицензия OpenMDW-1.1.

Где промпт упирается — медицинская речь Eka Care. На отложенных спикерах лучший промпт даёт 22,4% WER, дообучение — 12,2%, ошибок меньше на 45,8%. На общем английском стало хуже: с 1,54% до 1,69%.
Просмотры: 4
Перейти в пост Открыть в MAX Сообщить о неточности
Granite Switch 4.1.1 — патч-релиз. Базу не трогали: обновили только адаптеры, granite-4.1-30b та же. decision обновил веса, guardian-core тот же, речь теперь с пунктуацией и заглавными. Переключение идёт полем adapter_name: шаблон подставляет control-токен, switch layer превращает в индекс.

29,99 млрд против 28,86 у базы. На наборе Jev decision даёт 51,33 против 50,91, цифры IBM. Совместимость с 4.1 IBM называет полной, Adapter SDK без сроков.
Просмотры: 4
Перейти в пост Открыть в MAX Сообщить о неточности
Дать агенту ssh на хост с Docker — значит дать всё: для shell «посмотреть» и «сломать» одна и та же строка. Права либо есть, либо нет.

Разбор на Хабре разводит операции на уровни read, safe, destructive. Выше read — сначала план, разрушительное без подтверждения отдаёт код 7.

Кейс оттуда: в auto mode агент снёс staging-контейнеры, не спросив ни разу, а в обычном режиме показывал план. Описания инструментов снижают вероятность, но не гарантируют — если удалять нельзя, решает конфиг.
Просмотры: 4
Перейти в пост Открыть в MAX Сообщить о неточности
Веса Mistral Large 4 (Le Chonk) лежат на Hugging Face без запроса доступа: 54 файла safetensors, 1,06 ТБ, самый большой шард 20 ГБ. Есть NVFP4-вариант вдвое легче — 0,61 ТБ. Для запуска README предлагает vLLM и ноду из 8 GPU.

Лицензия Mistral Ecosystem Open-Weight License, переделанный MIT. Для внутренней работы отдельный договор не нужен. Кто отдаёт модель наружу как MaaS, тому нужна коммерческая лицензия от Mistral.
Просмотры: 4
Перейти в пост Открыть в MAX Сообщить о неточности
ВКонтакте Телеграм Одноклассники
Избранное в datool.ru

Следите за каналом в личном кабинете

Зарегистрируйтесь в datool.ru, чтобы добавить канал «RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Carbon | Kimi K3.1 | Claude Opus 5.5 | GPT-6.1 Terra | Claude Duet | Mistral Large 4 | MiniMax M3.1 | DeepSeek V4.1 | Grok Voice 3.0 | World Models» в избранное и отслеживать его показатели.

Зарегистрироваться
Для владельцев каналов

Подтвердите свой канал

Войдите или зарегистрируйтесь в datool.ru, затем добавьте нашего бота в канал по инструкции в личном кабинете. После проверки владения замок исчезнет и вам станет доступно управление каналом.

Войти или зарегистрироваться

Сообщить о неточности

Опишите, что нужно исправить. Если есть источник, добавьте ссылку.

Вы покидаете datool.ru

Ссылка ведёт на внешний сайт. datool.ru не отвечает за его содержимое — проверьте адрес, прежде чем вводить пароли или платёжные данные.

Переход через 10 с

Перейти