目前的模型约束非常严格,限制了大模型如何管理自己的上下文。我们发现可以让大模型直接编辑上下文,这样可以更好地管理长期记忆,更高效地适应计算,还能实现更多功能。再也不用担心压缩问题了!Rulin Shao:大模型在上下文管理上的苦涩教训是:给模型不受限制地控制自己的上下文,比人类设计的最优方案还要好!我们介绍了一种新的模型——Context Language Models(CLMs),它们可以原生地管理自己的上下文,将上下文视为文件,并在模型权重中学习策略,而不需要额外的框架。
—— Nathan Lambert (@natolambert) X帖子|2026-09-30T13:12:22+00:00
原帖:https://x.com/natolambert/status/2105284621638439271
Nathan Lambert:目前的模型约束非常严格,限制了大模型如何管理自己的上下文。我…
目前的模型约束非常严格,限制了大模型如何管理自己的上下文。我们发现可以让大模型直接编辑上下文,这样可以更好地管理长期记忆,更高效地适应计算,还能实现更多功能。再也不用担心压缩问题了!Rulin Shao:大模型在上下文管理上的苦涩教训是:给
扫描二维码,在手机上阅读
