【新智元导读】你有没有发现，你让AI读一篇长文章，结果它读着读着就忘了前面的内容？ 你让它处理一份超长的文档，结果它给出来的答案，牛头不对马嘴？ 这个现象，学术界有个专门的名词，叫做上下文腐化。 这也是目前AI的通病：大模型的记忆力太差了，文章越长，模型越傻！2025年最后一天，麻省理工学院（MIT）丢了一篇重磅论文，就是要解决这个问题的。 这篇论文叫《Recursive Language Models》，也就是递归语言模型。 看起来很学术，但说人话就一句：让AI再做一遍，效果直接起飞。 论文地址：https://arxiv.org/pdf/2512.24601 先剧透两个核心数据： 这啥概念？ 以前我们觉得，AI不够聪明，那就给它堆参数、加显卡、买更多GPU。 MIT这篇论文直接掀桌子：别堆参数了，让它返工重写一遍，效果可能更好。（真就是人类监工了） 原来解决问题的方法就是这么简单！ 并且X上很多大佬纷纷点赞～ 你有没有这种经历： 让ChatGPT帮你写一篇文章，它洋洋洒洒写了三千字，你一看——卧槽，离题万里。 或者让它帮你写代码，它写完了，一运行——全是bug。 但神奇的是，你让它再检查一遍、重新想想，有时候它就突然能改对了。 MIT的研究人员发现，这不是玄学，这是有规律的。 大多数AI犯的错，不是因为它不懂，而是因为它初稿写太快了。 就像你写论文，第一稿总是稀烂，但改个三四遍，就像换了个人写的。 AI也是一样。 问题是：现在的大模型基本都是一遍过的模式，你输入问题，它输出答案，完事。 它自己不会主动返工、不会自我检查、不会反复推敲。 或者换一个思路来理解大模型原先的思路： 假设你是一个刚进公司的实习生，领导给你发了一份500页的资料，让你整理出一份报告。 你会怎么做？ 正常人的做法是：先翻一翻，找到重点章节，然后一章一章地读，读完一章做个总结，最后把所有总结串起来。 对吧？ 但大模型不是这么干的。 大模型的做法是：直接把500页资料从头到尾一口气读完，然后尝试凭记忆回答问题。 这能记住才有鬼了。 这就是大模型面临的困境。 它不是不聪明，它是记不住。 MIT这篇论文干的事儿，就是给AI装上了一个返工的能力。 在聊MIT的解决方案之前，我得先跟你说清楚，为什么这件事这么重要。 你可能听说过一个词，叫上下文窗口。 啥意思呢？ 你可以把AI大模型想象成一个天才，但是这个天才有个致命缺陷——他的工作台太小了。 你给他一份超长的资料，让他帮你分析，但他只能把资料的一小部分放到工作台上看。 超过工作台大小的部分？看不到，直接忽略。 现在最牛逼的GPT-5，工作台能放27万个token（大约相当于20万字中文）。 听着挺厉害的对吧？ 但问题来了。 就是说，哪怕是在这27万token的限制之内，模型的表现也会随着输入变长而急剧下降。 为什么？ 因为信息太多了，它处理不过来了，脑子乱了。 就像让一个人同时记住一整本百科全书然后回答问题——记是记住了，但找不到了。 这就是大模型现在的困境：不是上下文窗口不够长，而是长了也用不好。 好了，问题讲清楚了，现在来看MIT的解决方案。 传统做法是：你把资料直接塞进AI的脑子里。 MIT的做法是：别塞进去了，放抽屉里吧。 他们发明了一个叫RLM的东西。 RLM的核心思路是：不要让AI直接读那份巨长的资料，而是让AI用代码去翻那份资料。 打个比方。 以前的AI，就像一个学生，你把一整本教科书拍在他面前说：看完，然后回答我的问题。 学生：？？？我看不完啊，我能不能看一部分？ 然后他就硬着头皮看前面的一部分，后面的直接放弃。 RLM的做法不一样。 它更像是给这个学生配了一个目录系统和搜索引擎。 资料还是那份资料，但学生不用从头到尾读了。他可以先翻目录，看看大概结构，然后针对问题去搜索相关段落，把有用的信息摘出来。 更牛的是，这个学生可以把一个复杂问题拆成好几个小问题，然后——注意重点来了——他可以召唤自己的分身，让分身去同时处理各个小问题，最后汇总答案。 这就是递归的意思：AI可以调用自己的分身，让自己帮自己干活。 或者再降维一下理解就是： 它把这份超长的文档，当成一个放在外面的资料库，而不是直接塞进脑子里。 然后，模型可以写代码，自己去查这个资料库。 需要第一章的内容？写个代码去查。 需要第十章的内容？再写个代码去查。 需要把第一章和第十章的内容对比？ 那就先查第一章，做个总结，再查第十章，做个总结，最后把两个总结合起来。 这就像是一个有无限容量的外置硬盘。 模型的脑子里装不下那么多东西，没关系。 可以随时去硬盘里查，用到什么查什么。 这样一来，理论上，模型可以处理无限长的文档。 具体怎么做的？ MIT的实现方式其实挺优雅的。 他们给AI配了一个Python编程环境（REPL），把那份超长的资料存成一个变量。 然后AI不再直接去读这份资料，而是用代码去操作它。 比如： 更厉害的是，AI可以把这份资料分段，把每一段交给一个子AI去处理，然后自己汇总结果。 这个子AI，用的其实是同一个模型，只不过是递归调用自己。 这个设计有两个巨大的好处： 第一，AI不用在脑子里记住那份超长资料了。 资料就放在外面的抽屉里，需要的时候用代码去取。 这就意味着，理论上，资料可以无限长——只要抽屉够大。 第二，AI可以自己判断需要看什么、不需要看什么。 它不会傻乎乎地从头读到尾，而是会聪明地挑重点看。 这大大节省了计算成本，也提高了准确率。 MIT在论文里做了一堆实验，结果还是挺震撼的。 实验一：超长文档理解 他们用了很多测试机，其中一个叫OOLONG的测试集，这个测试需要AI理解超长文档，并回答需要综合全文信息才能回答的问题。 结果：GPT-5基座模型的准确率44%，而RLM达到了56.5%。 而在CodeQA中，GPT-5基座模型的准确率24%，而RLM达到了62%，直接提升了2.7倍！ 实验二：超超超长文档（1000万+token） 他们还把文档长度一路拉到1000万token以上（相当于几十本书的长度）。 GPT-5？压根处理不了，直接爆炸。 RLM(GPT-5)？稳稳当当，表现基本不掉。 这是一个质的飞跃。 实验三：成本对比 你可能会想：这么牛逼的东西，是不是巨贵？ 神奇的是，并没有。 在BrowseComp-Plus基准测试中，让GPT-5-mini直接处理600万-1100万token的输入，成本大约是1.5-2.75美元。 而RLM(GPT-5)的平均成本只有0.99美元。 更便宜，效果还更好。 为什么？ 因为RLM不会傻傻地把所有内容都读一遍，它只读需要的部分。 这个发现为什么重要？ MIT这篇论文的意义，远不止于让AI处理更长的文档。 它揭示了一个更根本的道理： AI的能力边界，不只取决于模型本身有多大、参数有多多，还取决于你怎么使用它。 以前我们的思路是：模型不够强——那就加参数。 MIT告诉我们：等等，也许不用加参数，让它多想几遍就够了。 回到开头提到的那个发现： 在多步推理任务中，仅增加2-4次递归处理，正确率就能提升10%-25%。大约4次迭代后，收益逐渐趋于平缓。 这说明什么？ 大多数AI犯的错，都是初稿错误：不是它不懂，是它第一遍太草率了。 让它返工几次，就能改对。（所以有时候，你在使用AI时，还真的当个监工，让AI多输出几次） 这跟人类其实一模一样。 任何牛逼的程序员都知道，第一版代码永远是最烂的，代码质量是改出来的，不是写出来的。 任何牛逼的作家都知道，第一稿永远是废稿，好文章是改出来的，不是写出来的。 现在，AI也一样了。 MIT在论文最后提到，这只是一个开始。 目前的RLM还有很多可以优化的地方： 1.异步调用：目前子任务是一个接一个执行的，如果能并行执行，速度会更快。 2.更深的递归：目前只允许一层递归（AI调用自己的分身），如果允许分身再调用分身，理论上能处理更复杂的任务。 3.专门训练：目前RLM用的是现成的大模型，如果专门为递归思考训练一个模型，效果可能更猛。 MIT的研究者们相信，这可能代表了大模型能力扩展的一个新方向： 不是一味地堆参数、堆算力，而是让模型学会更聪明地思考。 MIT这篇论文，让我想起了一个老笑话： 客户问程序员：这个bug你修了多久？ 程序员说：5分钟。 客户说：那为什么收我500块？ 程序员说：找出问题在哪，花了我3天。 AI也是一样。 它的思考时间远比我们想象的更重要。 给它一点返工的机会，它可能就能从还行变成牛逼。 这也许就是下一代AI进化的方向：不是更大的脑子，而是更深度的思考 | 
