Hugging Face 利用 NNCF 和 Optimum 优化 Stable Diffusion 在 Intel CPU 上的推理性能

Hugging Face 结合 OpenVINO NNCF、Quantization-Aware Training (QAT) 及 Token Merging 技术，成功优化 Stable Diffusion 模型在 Intel CPU 上的推理效率。该方案实现了相比 PyTorch 5.1x 的推理加速与 4x 的模型体积缩减，显著降低了资源受限设备上的生成延迟。