Nathan Lambert:目前的模型约束非常严格,限制了大模型如何管理自己的上下文。我…


目前的模型约束非常严格,限制了大模型如何管理自己的上下文。我们发现可以让大模型直接编辑上下文,这样可以更好地管理长期记忆,更高效地适应计算,还能实现更多功能。再也不用担心压缩问题了!Rulin Shao:大模型在上下文管理上的苦涩教训是:给

目前的模型约束非常严格,限制了大模型如何管理自己的上下文。我们发现可以让大模型直接编辑上下文,这样可以更好地管理长期记忆,更高效地适应计算,还能实现更多功能。再也不用担心压缩问题了!Rulin Shao:大模型在上下文管理上的苦涩教训是:给模型不受限制地控制自己的上下文,比人类设计的最优方案还要好!我们介绍了一种新的模型——Context Language Models(CLMs),它们可以原生地管理自己的上下文,将上下文视为文件,并在模型权重中学习策略,而不需要额外的框架。

—— Nathan Lambert (@natolambert) X帖子|2026-09-30T13:12:22+00:00
原帖:https://x.com/natolambert/status/2105284621638439271



扫描二维码,在手机上阅读

腾讯混元:新研究:我们发布了ExplorationBench,这是一个…

X榜单(2026年09月30日 21:21 北京时间)

评 论
评论已关闭