跳到正文
Hugging Face Blog·· 2023-05-25AI 评分22

用 NNCF 和 🤗 Optimum 为 Intel CPU 优化 Stable Diffusion

Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum

AI 导读

借助 OpenVINO NNCF 的量化感知训练(QAT)结合 Token Merging,Stable Diffusion 在 Intel CPU 上实现 5.1 倍推理加速和 4 倍模型体积缩减。优化从 Pokemons 数据集微调模型出发,仅需 4096 次迭代、单张 24GB 显存 GPU 一天内完成,并已集成到 Diffusers 训练脚本中。

打开原文 huggingface.co