使用案例厂商宣传2026-06-25 08:00
NVIDIA NeMo AutoModel：一行代码加速Transformer MoE模型微调
NVIDIA NeMo AutoModel 是基于 Transformers v5 的开源库，添加 Expert Parallelism、DeepEP 融合 all-to-all 调度和 TransformerEngine 内核。在 MoE 模型微调中，相比原生 v5，训练吞吐量提升 3.4–3.7 倍，GPU 内存减少 29–32%，仅需改动一行 import。在 16 节点 128 张 H100 上全微调 Nemotron 3 Ultra 550B A55B 时，v5 因内存不足无法运行，而 AutoModel 凭借 EP=64 专家并行使训练可行。单节点 30B MoE 模型（如 Qwen3-30B-A3B）同样获得可量化的性…
来源
本页是 RebornArk 收录的摘要与标注，不是原文转载。完整表述以来源页面为准。
同一来源的其他动态
- 2026-10-04Microsoft ThinkingBox 在 Hugging Face 上发布，以数据库终态和 20 次重复评测智能体
- 2026-09-30NVIDIA 发布开源表格基础模型 Kumo Tabular，在 TabArena 等四项基准排名第一
- 2026-09-29H Company 发布 Holo4 智能体模型系列，含 27B 与 35B-A3B 两个版本
- 2026-09-23transformers 支持直接加载 GGUF 量化模型，本地推理性能接近 llama.cpp
- 2026-09-11Hugging Face 用 Gradio Workflow 重建 Workflow1111，复刻 AUTOMATIC1111 主要功能
- 2026-09-04Hugging Face 发布开源工具 funes，为编码智能体提供可本地持有的记忆层