🌶️ OpenAI померились чипами с Nvidia — и говорят, что их халапеньо…
🌶️ OpenAI померились чипами с Nvidia — и говорят, что их халапеньо больше
OpenAI опубликовали первые замеры Jalapeño — своего чипа, сделанного вместе с Broadcom. Это ASIC, то есть железка под одну задачу: здесь — под инференс, запуск уже обученной модели. На бенчмарке InferenceX чип выдал в 1,5–1,9 раза больше работы на ватт и в 1,7–3,6 раза меньшую задержку, чем системы на Nvidia GB200/GB300 — гоняли на моделях GPT-OSS 120B, DeepSeek R1 и Kimi K2.5. Малыми партиями обещают развернуть до конца года, наращивать — в 2027-м. The Verge
Замеры, напомним, публикуют те, кто этот чип и сделал. Сам себя не похвалишь — Nvidia уж точно не станет.
OpenAI опубликовали первые замеры Jalapeño — своего чипа, сделанного вместе с Broadcom. Это ASIC, то есть железка под одну задачу: здесь — под инференс, запуск уже обученной модели. На бенчмарке InferenceX чип выдал в 1,5–1,9 раза больше работы на ватт и в 1,7–3,6 раза меньшую задержку, чем системы на Nvidia GB200/GB300 — гоняли на моделях GPT-OSS 120B, DeepSeek R1 и Kimi K2.5. Малыми партиями обещают развернуть до конца года, наращивать — в 2027-м. The Verge
Замеры, напомним, публикуют те, кто этот чип и сделал. Сам себя не похвалишь — Nvidia уж точно не станет.
Просмотры: 19