RT 吉他猫 + LLM:我们期待一起搭建的推理框架,能讲清楚为啥优化有效,条件变了又为啥失效。把反常结果追到能解释、能复现,再把这些认识写到代码和测试里,本身就是扎实的系统工程,也正是我希望更多朋友在 SGLang Omni 里一起完成的工程训练。
—— OpenBMB (@OpenBMB) X帖子|2026-09-20T21:26:22+00:00
原帖:https://x.com/OpenBMB/status/2102277802607378437
OpenBMB:RT 吉他猫 + LLM:我们期待一起搭建的推理框架,能讲清…
RT 吉他猫 + LLM:我们期待一起搭建的推理框架,能讲清楚为啥优化有效,条件变了又为啥失效。把反常结果追到能解释、能复现,再把这些认识写到代码和测试里,本身就是扎实的系统工程,也正是我希望更多朋友在 SGLang Omni 里一起完成的
扫描二维码,在手机上阅读
