Beam от Reflection: 501B под Apache 2.0

Reflection выложила веса своей первой открытой модели Beam на Hugging Face под Apache 2.0, без отдельной «модельной» лицензии с оговорками. Это MoE на 501B параметров, из них 23B активных на токен, контекст около миллиона токенов. Заточена под код и длинные агентные задачи.

Для тех, кто сам поднимает инференс, интереснее комплект поставки. Веса сразу в BF16, FP8 и NVFP4, плюс отдельная драфт-модель для speculative decoding. Поддержка с первого дня в vLLM, SGLang, Transformers и Dynamo, так что кастомный сервинг писать не нужно.

В блоге vLLM есть цифры, которые стоит держать в голове при планировании:
- драфт-голова DFlash2 предсказывает сразу блок токенов, а не по одному;
- на реплее многоходовых сессий с кодом около 88K токенов/с на GPU при 96 параллельных запросах, но при попадании в кэш входных токенов 91–96%.

Последний пункт я бы не пропускал. Для агентов цифры держатся на prefix-кэше, без него пропускная способность будет совсем другой.

Источники:
https://reflection.ai/blog/beam-is-available
https://vllm.ai/blog/2026-10-16-reflection-beam

#LLM #OpenWeights #vLLM