跳到正文
Hugging Face Blog·· 2024-01-15AI 评分27

用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理

Accelerating SD Turbo and SDXL Turbo Inference with ONNX Runtime and Olive

AI 导读

ONNX Runtime 的 CUDA 与 TensorRT 执行提供程序可显著加速 SD Turbo 和 SDXL Turbo 在 NVIDIA GPU 上的推理,吞吐量相比 PyTorch 最高提升 229%(SDXL Turbo)和 120%(SD Turbo)。

打开原文 huggingface.co