功能更新厂商宣传2026-07-16 08:00
SGLang 与 Miles 为前沿多模态模型 Inkling 提供 Day-0 支持,推理吞吐达 71.7k tok/s
SGLang 与 Miles 为 Thinking Machines Lab 的 975B 参数多模态模型 Inkling 提供 Day-0 支持,其上下文窗口达 1M token。
来源
本页是 RebornArk 收录的摘要与标注,不是原文转载。完整表述以来源页面为准。
同一来源的其他动态
- 2026-10-16SGLang 原生支持 Reflection 的 Beam 并驱动其生产 API
- 2026-10-15SGLang 为 816B 开源多模态 MoE 模型 Muse Spark Open 提供 Day-0 支持
- 2026-08-29Infer-forge:围绕 SGLang 的 Harness、Loop 与 Graph 工程
- 2026-08-28MiniMax-H3 在 8×H200 上基准测试:无损加速 1.95×,最高 6.24×(SSIM 0.76–0.91)
- 2026-08-22Ling-3.0-flash 在 4 块 Blackwell GPU 上如何将批处理 1 解码延迟降低 54%
- 2026-08-22SGLang 推出 Weight Cache Daemon,实现亚秒级引擎重启