功能更新厂商宣传2026-08-12 08:00
SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning
SGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,该开源模型为 30B 总参数、3B 激活参数的混合专家架构,支持最长 1M token 上下文,可从 Hugging Face 下载 BF16 和 NVFP4 权重。模型支持 MTP、DFlash、DSpark 三种投机解码技术,并可通过 OpenAI 兼容 API 接入智能体工作流。
来源
本页是 RebornArk 收录的摘要与标注,不是原文转载。完整表述以来源页面为准。
同一来源的其他动态
- 2026-10-16SGLang 原生支持 Reflection 的 Beam 并驱动其生产 API
- 2026-10-15SGLang 为 816B 开源多模态 MoE 模型 Muse Spark Open 提供 Day-0 支持
- 2026-08-29Infer-forge:围绕 SGLang 的 Harness、Loop 与 Graph 工程
- 2026-08-28MiniMax-H3 在 8×H200 上基准测试:无损加速 1.95×,最高 6.24×(SSIM 0.76–0.91)
- 2026-08-22Ling-3.0-flash 在 4 块 Blackwell GPU 上如何将批处理 1 解码延迟降低 54%
- 2026-08-22SGLang 推出 Weight Cache Daemon,实现亚秒级引擎重启