Если вы только собираете LLM-приложение, не обязательно сразу внедрять несколько платформ наблюдаемости
Для начала определитесь, что вам важнее: видеть расходы на API, разбирать цепочки вызовов или проверять качество ответов модели.
Важный момент: логи запросов и ответов не дают полной картины. Нужно понимать не только, что вернула модель, но и почему получился такой результат, сколько он стоил и насколько он качественный.
В карточках мы добавили платформы со сравнением, для каких целей подходит каждая из них. Сохраните, чтобы вернуться к вариантам при выборе инструментов для своего проекта.
Сравнение платформ подготовил преподаватель Otus — Игорь Стурейко, разрабатывал модель развития и прогнозирования технического состояния газотранспортной системы ПАО Газпром.
• Посмотреть запись урока «Сколько стоит один ответ вашего AI-агента — и почему он думал 40 секунд»: https://otus.pw/Qjze/
• Узнать подробнее о курсе «AgentOps: эксплуатация ИИ-агентов»: https://otus.pw/8p8W/
Для начала определитесь, что вам важнее: видеть расходы на API, разбирать цепочки вызовов или проверять качество ответов модели.
Важный момент: логи запросов и ответов не дают полной картины. Нужно понимать не только, что вернула модель, но и почему получился такой результат, сколько он стоил и насколько он качественный.
В карточках мы добавили платформы со сравнением, для каких целей подходит каждая из них. Сохраните, чтобы вернуться к вариантам при выборе инструментов для своего проекта.
Сравнение платформ подготовил преподаватель Otus — Игорь Стурейко, разрабатывал модель развития и прогнозирования технического состояния газотранспортной системы ПАО Газпром.
• Посмотреть запись урока «Сколько стоит один ответ вашего AI-агента — и почему он думал 40 секунд»: https://otus.pw/Qjze/
• Узнать подробнее о курсе «AgentOps: эксплуатация ИИ-агентов»: https://otus.pw/8p8W/
Просмотры: 15