huggingface:Sayak Paul 在 🤗 Diffusers 里实现了 …


Sayak Paul 在 🤗 Diffusers 里实现了 Tensor 并行加载的大升级 🔥 在 Flux.2-Dev DiT 上,使用 4 度 TP(A10G):• 加载时间从 30.4 秒降到 12.5 秒 • 峰值 CPU 内存从

Sayak Paul 在 🤗 Diffusers 里实现了 Tensor 并行加载的大升级 🔥 在 Flux.2-Dev DiT 上,使用 4 度 TP(A10G):• 加载时间从 30.4 秒降到 12.5 秒 • 峰值 CPU 内存从 64.1GB 降到 6.8GB/rank 加载速度大约快了 2.4 倍。CPU 内存减少了大约 89%。去看看吧:

—— huggingface (@huggingface) X帖子|2026-10-01T10:01:36+00:00
原帖:https://x.com/huggingface/status/2106000685103972364



扫描二维码,在手机上阅读

X榜单(2026年10月02日 21:15 北京时间)

Trump Truth:我非常激动地宣布,韩国协议越来越好了!他们投资了84亿美元用…

评 论
评论已关闭