使用案例厂商宣传2026-05-28 08:00
ITBench-AA:前沿大模型在首个智能体企业IT任务基准测试中得分均低于50%
由Artificial Analysis和IBM推出的ITBench-AA SRE基准测试显示,所有前沿大模型得分均未超过50%。Claude Opus 4.7(自适应推理,最大努力)以47%领先,GPT-5.5(xhigh)和Qwen3.7 Max分别得46%和42%。该测试包含59个需要通过Shell命令调查Kubernetes事件快照并提交根因诊断的智能体任务。关键发现是模型推理轮次差异近3倍,但更长的轨迹并不转化为更高准确率,过度调查的模型会因提交误报而受罚。在成本方面,开源模型Gemma 4 31B(Reasoning)以每任务$0.14的成本获得37%得分,优于成本更高但得分更低的闭源模型。
来源
本页是 RebornArk 收录的摘要与标注,不是原文转载。完整表述以来源页面为准。
同一来源的其他动态
- 2026-10-04Microsoft ThinkingBox 在 Hugging Face 上发布,以数据库终态和 20 次重复评测智能体
- 2026-09-30NVIDIA 发布开源表格基础模型 Kumo Tabular,在 TabArena 等四项基准排名第一
- 2026-09-29H Company 发布 Holo4 智能体模型系列,含 27B 与 35B-A3B 两个版本
- 2026-09-23transformers 支持直接加载 GGUF 量化模型,本地推理性能接近 llama.cpp
- 2026-09-11Hugging Face 用 Gradio Workflow 重建 Workflow1111,复刻 AUTOMATIC1111 主要功能
- 2026-09-04Hugging Face 发布开源工具 funes,为编码智能体提供可本地持有的记忆层