VibeQwen

Baseten研究AI 模型较难上手需要编程14 天前

VibeQwen 是 Baseten 工程师用 Claude Code 为 Qwen-3.6-35B-A3B 模型自动生成的推理引擎。它用来加速大模型推理,单流解码比 vLLM 0.25.1 快最多 90%,首 token 延迟从 28ms 降到 12ms。

本条目有 2 项字段尚未收录。标「未公开」不代表不存在, 只代表我们没拿到可信来源,不做推测填补。

尚未收录的字段(2)
价格未公开
GitHub未公开

标「未公开」是因为没有可信来源,不做推测填补。

它是什么

VibeQwen 是 Baseten 工程师用 Claude Code 为 Qwen-3.6-35B-A3B 模型自动生成的推理引擎。它用来加速大模型推理,单流解码比 vLLM 0.25.1 快最多 90%,首 token 延迟从 28ms 降到 12ms。

怎么用

原文未说明具体使用方式,仅提到由 Claude Code 参考 MetaInfer 论文自动构建,运行环境为单张 B200、NVFP4 量化的 Qwen-3.6-35B-A3B。

基本信息

厂商
Baseten
上手难度
较难
是否需编程
需要
价格
未公开
证据等级
厂商宣传