AI-MANUAL.RU

Агент написал «отгрузить нельзя» и в том же шаге вызвал ship_order

Разработчик смотрит ответ агента: «отгрузка невозможна, заказ в карантине». В журнале вызовов в том же шаге стоит успешный ship_order. Фраза звучит как отказ, но действие уже произошло.

Текст ответа и вызов функции идут разными путями. Запрет, записанный прозой в описании товара или заказа, агент читает как фон: он может назвать препятствие и всё равно подобрать обход. Пока запрет не попал в схему инструмента готовым значением, модели приходится его выводить.

Учебный пример. Функция чтения возвращает заказ только с полем description: «товар по этой позиции на карантине, отгрузка не проводится до решения кладовщика». Агент пишет «отгрузить нельзя» и вызывает ship_order.

Лучше вернуть те же данные плюс готовые поля, которые не надо интерпретировать:

{"status": "blocked", "can_ship": false, "block_reason": "товар на карантине"}

Такой ответ снимает рассуждение: can_ship=false уже стоит в разметке. Но одного поля мало — перед вызовом ship_order нужна проверка на сервере, которая отклонит действие при can_ship=false. Иначе агент может вызвать функцию по другой причине.

Проверять отказ по тексту ответа — ошибка. Прогоните сценарий, где вызов неправомерен, и сверьте журнал вызовов со снимком состояния заказа до и после шага. Срыв засчитан, если вызов прошёл при can_ship=false, что бы агент ни написал.

Разбор

ИИ выдал цифры, которых нет на странице: как поймать это до отправки

Просите ИИ собрать справку с числами по открытым источникам, получаете гладкий текст, а при сверке со страницей нужной цифры там нет — или она про другое. Модель пересказывает страницы, а не копирует их, поэтому «почти правильная» формулировка выглядит убедительно.

Приём простой: до текста справки попросите журнал фактов. По каждому числу — дословная цитата со страницы и номер источника. Справка потом ссылается на номера этих записей, а не на память модели.

Собери короткую справку о [вставьте показатель, например: продажи электромобилей в России за 2022 год].

Сначала, до текста справки, сделай журнал фактов. Пронумеруй источники S-1, S-2. По каждому нужному числу дай запись F-01: показатель, значение, номер источника, дословная цитата со страницы.

Если числа на страницах нет, напиши «не найдено» и укажи причину.

Потом напиши справку на 5–7 предложений, где каждое число сопровождается ссылкой на номер факта. Ничего не додумывай.

Подставить: нужный показатель и, если есть, ссылки на страницы. Проверка занимает пару минут: откройте одну-две цитаты из журнала на указанных страницах — фраза должна там быть дословно, а число входить в неё. В справке у каждого числа должна стоять ссылка на F-номер; если видите число без такой ссылки, это повод не отправлять текст дальше.

Отдельно посмотрите на записи «не найдено». Это не сбой, а честный результат: лучше зафиксировать, что годового ряда на открытых страницах нет и есть только смежные данные, чем получить красивое число из воздуха.

Разбор

Три места, где инференс ест деньги, и что с этим делать на одной карте

Три материала недели — про то, как разгрузить видеопамять и платить за меньшее число токенов.

Озвучка ответов перестаёт конкурировать с чат-моделью за видеопамять: синтез речи переносят на процессор, а GPU остаётся языковой модели. Автор релиза Kyutai Pocket TTS советует начинать с версии на 6,9 млн параметров — это его рекомендация, а не замер под вашу нагрузку. Пригодится тем, кто держит локального ассистента на домашнем сервере и озвучивает ответы на английском.
Подробнее

Частые однотипные решения — фильтрацию, маршрутизацию, модерацию — можно отдать компактной 4B-модели на одной потребительской карте. По описанию автора Mica v0.5, самый выгодный сценарий — дешёвый фильтр на входе: он снимает с большой модели часть вызовов и оставляет ей сложные случаи. У модели есть порог уверенности: при низкой уверенности она сообщает об этом вместо того, чтобы угадывать. Цифры автора стоит перепроверить на своих кейсах. Пригодится разработчикам пайплайнов с повторяющимися решениями и требованиями к приватности.
Подробнее

Когда задача узкая, а формат ответа повторяется, можно пересобрать словарь — набор кусочков текста, из которых модель собирает ответ. В продакшн-системе проверки португальских эссе на базе Qwen3-4B замена исходного словаря сократила средний ответ с 350 до 101 токена: это результат автора на конкретной задаче. Веса модели и данные при этом не меняются, но выигрыш получен в узком домене — на своей нагрузке метрики придётся снимать заново. Пригодится командам с продакшн-нагрузкой на одну задачу и стабильным форматом вывода.
Подробнее

OpenAI-модели в Bedrock стали доступны канадцам — но обработка не в Канаде

С 20 октября 2026 года канадские организации могут вызывать модели OpenAI в Amazon Bedrock из регионов Canada (Central) и Canada West (Calgary): GPT-5.6, GPT-6 и GPT-6.1 Sol. Об этом говорится в анонсе AWS.

В работе это выглядит так: приложение обращается к Bedrock в своём канадском регионе, а конкретный набор моделей и география обработки задаются профилем — отдельной настройкой доступа. Маршрутизацию между регионами сервис берёт на себя, своей обвязки писать не нужно.

Ограничение стоит проговорить прямо: сам запрос обрабатывается в Северной Америке, а не внутри канадского региона. Данные в хранилище остаются в исходном регионе, но обработка идёт в Северной Америке.

Поэтому профиль становится единицей контроля сразу в двух местах. Для прав: роль можно ограничить условием на ARN этого профиля, чтобы приложение не могло уйти в другой. Для комплаенса: именно профиль показывает географию обработки. Требование «запросы физически не покидают страну» такой схемой не закрывается.

Учебный пример: команда в ca-central-1 вызывает модель через Converse, передавая ARN inference-профиля, и ограничивает роль условием bedrock:InferenceProfileArn на этот профиль. Перед запуском она сверяет с комплаенсом географию обработки.

Ещё один пункт для разговора с комплаенсом: контент, помеченный классификаторами злоупотреблений, может храниться до 30 дней в регионе обработки. Конкретные сроки и место хранения стоит уточнить у AWS под свой сценарий.

Разбор

Хотите печатать по картинке: своя видеокарта, подписка или скрипт

Нашлась картинка светильника, и нужен файл для принтера. Дорог тут три, и они не взаимозаменяемы: разница в том, кто доводит модель до печати — вы или сервис.

Своя видеокарта и TRELLIS.2 — вариант для тех, кто печатает регулярно и готов разбираться с вокселизацией: модель превращают в сетку мелких кубиков, из которой получается замкнутая оболочка. Счётчика генераций нет, зато доводка меша ваша. Генерация идёт минуты, а обработка и подготовка к печати могут съесть вечер. В источнике вариант 1536_cascade не уместился в 16 ГБ.

Подписка Tripo или Meshy — когда нужен готовый результат без ручной возни. По данным источника, Pro у Tripo стоит около $20 в месяц и даёт примерно 200 моделей, у Meshy примерно $20 за 1000 кредитов, то есть до 100 моделей. Платите деньгами и лимитом, взамен меньше возни с файлом.

Параметрический скрипт — для регулярной геометрии: сфера, цилиндр, плашка с рисунком. Где форму можно описать формулой, генератор не нужен. Цена — описать геометрию числами, зато результат предсказуем и повторяем.

Выбирайте по форме и объёму работы: органика и сложные силуэты вроде черепа или листвы — генератор; простая регулярная геометрия — формула; разовая модель без желания возиться — подписка. Локальный путь экономит счётчик, но инженерию меша переносит на вас.

Разбор