功能更新厂商宣传2026-10-14 08:00

vLLM 推出无需置信头的在线拟合接受估计器,让 EAGLE、MTP 等草稿模型可用 Adaptive Verification

vLLM 支持 confidence scoring 扩展到所有基于草稿模型的投机类型,通过在线拟合的 logistic 回归从草发者 logits 推导 logit(q_max) 特征来预测目标模型的接受概率,作为 Adaptive Verification 的置信分。

来源

V

vLLM 官方博客(RSS)

vllm.ai

收录于 2026-10-15 08:10

打开原文 ↗

本页是 RebornArk 收录的摘要与标注,不是原文转载。完整表述以来源页面为准。

同一来源的其他动态