SmarterRouter: интеллектуальный LLM-шлюз и маршрутизатор с поддержкой VRAM для Ollama, llama.cpp и OpenAI.
Поддерживает семантическое кэширование, профилирование моделей и автоматический переход на резервный ресурс для локальных лабораторий искусственного интеллекта.
Github Community
Просмотры: 1