跳到正文
Hugging Face Blog·· 2023-10-03AI 评分32

Hugging Face Diffusers 支持在 Cloud TPU v5e 上用 JAX 加速 Stable Diffusion XL 推理

🧨 Accelerating Stable Diffusion XL Inference with JAX on Cloud TPU v5e

AI 导读

Hugging Face Diffusers 现已支持在 Cloud TPU v5e 上通过 JAX 运行 SDXL 推理,借助 JIT 编译与 XLA 并行实现高性能、低成本部署。演示在多个 TPU v5e-4 实例上并行生成 4 张 1024×1024 图像约需 4 秒,纯生成时间约 2.3 秒;TPU v5e 成本不到 TPU v4 的一半。

打开原文 huggingface.co