跳到正文
原文
Hugging Face Blog·· 2026-07-23精选AI 评分78

Diffusers原生集成Nunchaku 4-bit扩散模型推理引擎

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Hugging Face Diffusers现已原生支持Nunchaku Lite,允许用户通过简单的from_pretrained()调用直接加载4-bit量化的扩散模型检查点,无需本地CUDA编译或单独的推理库。

推荐理由

Diffusers原生支持Nunchaku 4-bit推理,无需本地编译即可加载量化检查点,显著降低显存占用并提升速度。

来源:Hugging Face Blog · huggingface.co