功能更新厂商宣传2026-10-16 08:00
vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。
来源
本页是 RebornArk 收录的摘要与标注,不是原文转载。完整表述以来源页面为准。
同一来源的其他动态
- 2026-10-16vLLM 解析 Kimi K3 在 AMD Instinct MI355X 上的推理优化,单 GPU 吞吐超 NVIDIA HGX B300 24.4%
- 2026-10-15vLLM 提供 Muse Spark Open Day 0 支持
- 2026-10-14vLLM 推出无需置信头的在线拟合接受估计器,让 EAGLE、MTP 等草稿模型可用 Adaptive Verification
- 2026-10-07vLLM 详解 DeepSeek-V4.1-Flash 优化:Agent 场景吞吐提升 5 倍
- 2026-09-25vLLM 新增基于 Gumbel-max 的无失真文本水印功能