OpenBMB:RT 吉他猫 + LLM:我们期待一起搭建的推理框架,能讲清…


RT 吉他猫 + LLM:我们期待一起搭建的推理框架,能讲清楚为啥优化有效,条件变了又为啥失效。把反常结果追到能解释、能复现,再把这些认识写到代码和测试里,本身就是扎实的系统工程,也正是我希望更多朋友在 SGLang Omni 里一起完成的

RT 吉他猫 + LLM:我们期待一起搭建的推理框架,能讲清楚为啥优化有效,条件变了又为啥失效。把反常结果追到能解释、能复现,再把这些认识写到代码和测试里,本身就是扎实的系统工程,也正是我希望更多朋友在 SGLang Omni 里一起完成的工程训练。

—— OpenBMB (@OpenBMB) X帖子|2026-09-20T21:26:22+00:00
原帖:https://x.com/OpenBMB/status/2102277802607378437



扫描二维码,在手机上阅读

OpenBMB:超喜欢这个演示!把MiniCPM5-2B跑在本地Mac上,让…

OpenBMB:我试着在老电脑上运行小模型,给@OpenBMB的MiniCP…

评 论
评论已关闭