NVIDIA AI:转发:vLLM集成了PyNvVideoCodec,将视频解码…


转发:vLLM集成了PyNvVideoCodec,将视频解码从CPU转移到GPU的NVDEC。结果:在8块H100上,吞吐量提升2倍以上,CPU瓶颈消失!这对大规模视频字幕生成(如AV训练、元数据处理)意义重大,而且会随CUDA版本的vLL

转发:vLLM集成了PyNvVideoCodec,将视频解码从CPU转移到GPU的NVDEC。结果:在8块H100上,吞吐量提升2倍以上,CPU瓶颈消失!这对大规模视频字幕生成(如AV训练、元数据处理)意义重大,而且会随CUDA版本的vLLM一起发布。🔗

—— NVIDIA AI (@NVIDIAAI) X帖子|2026-09-21T21:07:37+00:00
原帖:https://x.com/NVIDIAAI/status/2102162025233424399



扫描二维码,在手机上阅读

NVIDIA AI:专家问答:如何评估代理技能 | Nemotron实验室 想知…

Google DeepMind:谷歌云技术为代理服务赋能:Gemini 3.8实时虚拟形象现…

评 论
评论已关闭