功能更新厂商宣传2026-09-23 08:00

transformers 支持直接加载 GGUF 量化模型，本地推理性能接近 llama.cpp

Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型，通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint，并复用 ggml 的 Metal 内核。

来源

H

Hugging Face 社区博客（混合发现）

huggingface.co

收录于 2026-10-15 23:55

打开原文 ↗

本页是 RebornArk 收录的摘要与标注，不是原文转载。完整表述以来源页面为准。

同一来源的其他动态