Показываем расходы и переключаем модели в AI Gateway

В AI Gateway сразу два обновления — теперь можно посмотреть стоимость и статус каждого запроса, а еще настроить резервные модели для AI-ключа на случай, если основная не ответит.

1. Логи запросов — чтобы проверять результаты и следить за расходами

В AI Gateway появилась вкладка «Логи». Для каждого запроса по AI-ключу можно посмотреть модель, токены, стоимость и статус запроса.

Логи доступны только владельцу аккаунта и содержат запросы начиная с 9 октября. Тексты промптов и ответов не сохраняются.

2. Резервные модели — на случай, если основная модель не отвечает

Для AI-ключа можно выбрать до двух резервных моделей. Если основная недоступна — AI Gateway сам отправит запрос на одну из двух запасных.

Сработает при сбое у провайдера, таймауте модели или ограничении частоты запросов.

Где включить: ИИ-сервисы → AI Gateway → нужный ключ → «Управление» → «Резервные модели».

Оплата считается только за модель, которая ответила. Запасная может стоить дороже основной — учитывайте при выборе. 

Подстраховать запросы к моделям →