Mercury 3

Диффузионная языковая модель от Inception. Токены предсказываются не по одному, а пачкой параллельно и потом уточняются, отсюда скорость. Контекст на 1 млн токенов.

• Генерация больше 1000 токенов в секунду
• Браузерные и поисковые агенты, где каждая лишняя секунда копится
• Голосовая поддержка, репетиторство, разбор логов
• Совместимый с OpenAI API

• 1068 токенов в секунду на GPU NVIDIA
• Параметров больше, чем у первой Mercury, в 40 раз, скорость та же
• Контекст 1 млн против 260 тысяч у Mercury 2.5
• 0,10 доллара за 1 млн входных и 0,35 за выходные по стартовой скидке 50%, кеш дешевле еще на 90%

• На 50 живых задачах Mind2Web агент закрыл половину, больше GPT-6.1-Sol при том же расходе токенов
• Сравнения с GPT-6 Luna и Claude Haiku 5.5 свои: в 4-8 раз быстрее при сопоставимом качестве
• Доступна в Inception API, OpenRouter, Baseten и Vercel, новым ключам дают 100 млн токенов

Спасибо @Endorpheen

#dllm #agent