Hugging Face Blog·· 2026-07-23精选AI 评分78
Diffusers原生集成Nunchaku 4-bit扩散模型推理引擎
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Hugging Face Diffusers现已原生支持Nunchaku Lite,允许用户通过简单的from_pretrained()调用直接加载4-bit量化的扩散模型检查点,无需本地CUDA编译或单独的推理库。
推荐理由
Diffusers原生支持Nunchaku 4-bit推理,无需本地编译即可加载量化检查点,显著降低显存占用并提升速度。
来源:Hugging Face Blog · huggingface.co