我需要一个适合编码的混合专家(Mixture-of-Experts)大型语言模型(LLM),最好是开源的,占用内存少于60GB,这样在我的硬件上才能有比较流畅的交互速度,我希望它的响应速度超过每秒12个词。你觉得哪个模型比较合适呢?
—— Simon Willison (@simonw) X帖子|2026-10-09T17:20:12+00:00
原帖:https://x.com/simonw/status/2108608482442449261
Simon Willison:我需要一个适合编码的混合专家(Mixture-of-Expe…
我需要一个适合编码的混合专家(Mixture-of-Experts)大型语言模型(LLM),最好是开源的,占用内存少于60GB,这样在我的硬件上才能有比较流畅的交互速度,我希望它的响应速度超过每秒12个词。你觉得哪个模型比较合适呢?
扫描二维码,在手机上阅读
