Simon Willison:我需要一个适合编码的混合专家(Mixture-of-Expe…


我需要一个适合编码的混合专家(Mixture-of-Experts)大型语言模型(LLM),最好是开源的,占用内存少于60GB,这样在我的硬件上才能有比较流畅的交互速度,我希望它的响应速度超过每秒12个词。你觉得哪个模型比较合适呢?

我需要一个适合编码的混合专家(Mixture-of-Experts)大型语言模型(LLM),最好是开源的,占用内存少于60GB,这样在我的硬件上才能有比较流畅的交互速度,我希望它的响应速度超过每秒12个词。你觉得哪个模型比较合适呢?

—— Simon Willison (@simonw) X帖子|2026-10-09T17:20:12+00:00
原帖:https://x.com/simonw/status/2108608482442449261



扫描二维码,在手机上阅读

DAIR.AI:RT Elvis,Step 5 预览版来自 @StepFun…

swyx:迪奥戈·阿尔梅达不小心发布了一个模型,每天生成了数万亿的令牌…

评 论
评论已关闭