Hugging Face Blog·· 2024-07-30AI 评分55
Hugging Face 发布基于 Quanto 优化 Diffusers 中 Transformer 扩散模型显存的指南
Memory-efficient Diffusion Transformers with Quanto and Diffusers
AI 导读
Hugging Face 官方博客发布教程,指导如何使用 Quanto 工具对 Diffusers 库中的 Transformer 架构扩散模型进行量化,以显著降低显存需求。
来源:Hugging Face Blog · huggingface.co