Hugging Face 发布 Quanto：Optimum 的 PyTorch 量化后端

Hugging Face 推出 Quanto，这是 Optimum 框架下的 PyTorch 量化后端。它支持 int2、int4、int8 和 float8 权重及激活，兼容 CUDA 与 MPS 设备，并集成于 transformers 库中。该工具旨在简化大语言模型及其他模态模型的量化流程，降低部署内存成本。