今日更新
实时2026-10-19/4 条/每日情报
vLLM 解析 Kimi K3 在 AMD Instinct MI355X 上的推理优化，单 GPU 吞吐超 NVIDIA HGX B300 24.4%
AMD 与 Embedded LLM 在 vLLM 官方博客详解 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化。
vLLM 官方博客（RSS）
- StepFun 展示 Step 5 Preview 在 NVIDIA GB300 上的推理性能
StepFun 表示 Step 5 Preview 在 NVIDIA GB300 上推理表现出色，并期待看到开发者用它构建的应用。其转发的 NVIDIA 内容称该模型是 StepFun 最大的开源权重发布，600B MoE 架构，可处理最长 24 小时的 Agent 任务，在 GB300 上用 NVFP4 达到近 8K tokens/sec/GPU，提供 NVFP4 checkpoint（https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4），并支持 SGLang、vLLM、NeMo Automodel 后训练和 NVIDIA NIM 一键部署。
X：阶跃星辰 StepFun (@StepFun_ai)·功能更新用户反馈 - 微软发布自研芯片 Maia 300 并将大规模扩展 Maia 推理部署
微软宣布明年起将 Maia 芯片家族扩展到多吉瓦级部署，作为自家产品和服务的首选推理系统，并发布 Maia 300，每瓦 token 产出比主流 GPU 系统高 40%。Maia 200 已在美国、欧洲和澳大利亚部署，在 Teams 和 Copilot 场景中每瓦 token 产出提升最高 1.7x。
X：Satya Nadella (@satyanadella)·功能更新厂商宣传 - Anthropic 研究：小型 AI 模型可能接近在 IoT 设备上自主复制
Anthropic 发文评估小型模型在无数据中心条件下自主复制（ARA）的可行性，作者实验显示 9B 模型可在测试的 9 类硬件中 8 类上跑通推理，30B 及以下模型已能完成复制的多数单步。
Anthropic：Research（发表成果 · 网页）·使用案例厂商宣传
摘要为机器生成。点标题进详情页，原文链接在详情页里。