恭喜@CoreWeave 在RL(强化学习)部署方面取得了进展!RL后训练过程需要反复迭代:先训练模型,生成响应,再重新训练。推理工作者每次都需要加载更新后的模型权重,这在模型变大时会让GPU处于闲置状态。CoreWeave的新服务利用了NVIDIA Dynamo中的ModelExpress和Router,大大减少了模型重新加载的时间,同时将停机时间降到最低。与我们和@youdotcom 合作,CoreWeave 在后训练Nemotron 3.5 Lightning时实现了15倍的模型加载速度提升。更多详情请参阅他们的博客:CoreWeave:ICYMI:CoreWeave Forge
—— NVIDIA AI (@NVIDIAAI) X帖子|2026-10-02T00:34:50+00:00
原帖:https://x.com/NVIDIAAI/status/2105818757671338444
NVIDIA AI:恭喜@CoreWeave 在RL(强化学习)部署方面取得了进…
恭喜@CoreWeave 在RL(强化学习)部署方面取得了进展!RL后训练过程需要反复迭代:先训练模型,生成响应,再重新训练。推理工作者每次都需要加载更新后的模型权重,这在模型变大时会让GPU处于闲置状态。CoreWeave的新服务利用了N
扫描二维码,在手机上阅读
