文 | 划重点 KeyPoints
AI 发展到了必须要降速的时刻吗？
过去几天，Anthropic、OpenAI 先后释放 「放慢前沿 AI 能力推进节奏」 的信号，被业内视作硅谷 AI 巨头面对安全风险的一次主动降温。二级市场率先做出反应，科技股、半导体股集体承压，英伟达一度跌超 3%，AMD、英特尔、美光盘中跌幅均在 5% 左右，费城半导体指数盘中也一度下挫近 6%。
引发市场担忧的，是支撑 AI 基础设施高增长预期的关键假设迎来新变量：当一直踩着 AI 油门的人开始主动谈 「刹车」，「模型持续变强，围绕算力、芯片和数据中心的资本开支不断抬高」 的增长逻辑不再那么理所当然。
而这轮 「刹车论」 的源头，指向一个长期带有科幻色彩的命题：Recursive Self-Improvement（递归式自我改进，下称 RSI）。它所设想的，是一套 AI 开始参与改进、甚至构建自己下一代系统的自进化剧本。
2026 年，RSI 进一步跨出未来学和安全讨论的范畴，成为 AI 学术议程、工程实践和创业融资叙事的热词。但跳脱情绪、回归技术，AI 自进化究竟意味着什么？今天 AI 的自我改进已经走到了哪一步，离真正的 RSI 还有多远？
我们和长期耕耘在这条主线上的 MIT PhD、前字节 Seed 团队成员瞿骜聊了聊，以下是他的观察。
RSI 是一个技术交汇点，但现在还是个噱头
如果只看最近半年，会觉得 RSI 突然火了。但如果把时间拉长一点看，这并不是 2026 年横空出世的新问题。它更像是过去几年，几条基础路线一路演进，到今天向同一个方向汇合。
1. 代码不用人敲，RSI 才有了真抓手
我 2019 年开始做强化学习 （RL）。那时我觉得，强化学习比单纯做自然语言处理 （NLP） 更接近 「智能」。因为它讨论的是一个系统如何与环境交互、得到反馈，再改变自身行为。但当时能做的任务很有限，模型能力也远不及今天。
ChatGPT 的出现，刷新了人们对语言模型能力边界的认知。语言模型有了更大的行动空间 （action space），也第一次让普通人感受到，一个模型可以通过自然语言持续接受指令、处理越来越复杂的任务。
再往后，reasoning（推理） 能力一轮轮迭代。大家体感都很强烈的 DeepSeek R1 是一个很重要的节点，它让人看到大规模强化学习能够用到推理上，也让行业重新看到强化学习在大模型时代的空间。
再往后，这种变化更加具象化了。Anthropic 的 Opus 4.5 是一个很明显的节点，到了这个阶段已经可以连续工作很久，很多过去需要人手动拆解、反复修改的任务，通过不断输入提示词 （prompt）、不断调整，最后都能被做出来。我们甚至可以说，现在基本已经没有什么代码是提示词 「敲」 不出来的了。
这个变化对自我改进 （self-improvement） 很关键。因为智能体 （agent） 一旦有了足够强的编程能力，再加上越来越成熟的上下文管理能力，它就可以在一个任务上持续跑很久，自行完成读代码、改代码、执行、看结果、再继续下一轮的循环。过去需要人来 「插手」 的很多环节，开始可以在同一个智能体循环 （loop） 自己跑完。
上下文管理也在这个过程中从一个 「外接能力」，逐渐变成 agent 原生 （native） 的能力。它能记住自己做到哪里，能管理越来越长的任务，再配合工具和代码执行，长程任务这件事才变得可行。
所以在我看来，2026 年最重要的变化，是 AI 开始有条件持续做一件事，这也是自我改进真正从概念开始变成工程问题的前提。
2. 今天跑通的，只是 RSI 的 「局部循环」
也正是在这个过程中，我开始重新看过去几年那些貌似分散的研究方向。
一条线是 AI 驱动发现 （AI for discovery），后来一路走到自动化研究 （auto-research），即让 agent 自己提出方案、跑实验，再根据结果继续探索。
另一条线则围绕 「如何让 agent 越来越会做事」，改记忆、造工具、积累技能，或者继续优化整个 harness，也就是 agent 做事时依赖的那套工作框架。
我自己的研究路径其实也横跨了这两条线。从强化学习、agent memory，一路做到多智能体自动化研究 （multi-agent auto-research）。我们做 CORAL 的时候甚至会纠结，这到底算 「自动化研究」，还是 「智能体工作框架演进」（harness evolution）？
所以我现在看 RSI，会觉得它虽然是个 buzzword，但确实把很多事情串联起来了。过去看起来像不同流派的东西，现在放进 「AI 如何参与构建下一代 AI」 这个框架里，一下有了共同坐标。
但这里还需要区分清两个概念。今天我们能看到的大多其实是持续自我改进 （continual self-improvement）：AI 在和环境、用户、任务不断交互的过程中积累经验，再用这些经验去自我更新。它更新的不一定只是模型参数，也可以包括记忆、提示词、工具、技能，甚至整个 harness。
而严格意义上的 RSI 要更进一步。它的思想源头之一，可以追溯到 I. J. Good 在 1960 年代提出的超智能机器 （ultraintelligent machine）：如果一台机器开始参与设计下一代机器，而且下一代又能继续造出更强的下一代，能力提升就可能进入一个递归加速的过程。
换句话说，从一次次经验里把自己 「炼强」，只是 RSI 的起点；再往前，AI 还需要参与设计、训练，甚至亲手构建下一个自己。
它可以是改 harness、改训练流程、生成训练数据；也可以继续往更底层走，写 GPU 内核 （kernel），甚至参与设计下一代硬件。所以，我们把 「机器」 定义得越完整，RSI 的门槛就越高。
按照我的理解，今天大量实践更适合被称为持续自我改进。严格意义上的 RSI，还有很长的路要走。
而我们在自己做 Reef 时也更愿意用改进 （improve），而不是进化 （evolve）。因为后者只说明 「它发生了变化」。工程上我们更关心另一件事：你怎么知道它真的变好了？
AI 当然可以不断变化，但变化本身没有意义。它可能学到坏经验，也可能把一次偶然的成功当成规律。人会 「近朱者赤，近墨者黑」，模型也一样。你不能让它随便 「瞎 evolve」。
AI 把活儿干完了，「长本事」 才刚刚开始
1. 干得再久，不学习也只是 「临场发挥」
前面提到，我自己的研究一路从记忆做到多智能体自动化研究。这个过程中有一个问题越来越明显：agent 可以在上下文里变得越来越能干，但这种提升是有上限的。
我们后来做 CORAL，让多个 agent 自己做研究、共享信息、迭代方案。前期只靠上下文、记忆和 harness 的演进，效果可以推得很高；但任务一旦拉长，系统还是会慢慢卡住。
一个直观的问题是，agent 做了很多事，也积累了很多经验，但模型本身并没有因此 「长本事」。
它可以记住这次哪里踩过坑，多调用几个工具，把工作流程调得更顺。但任务结束以后，这些经验大多还停留在上下文、记忆里，没有真正进入模型。这有点像一个人做项目时，靠着笔记越做越熟练，但项目结束以后，脑子里并没有留下多少东西。下一次碰到类似的问题，很多路还得重新走一遍。
所以后来我们开始做测试时训练 （test-time training）、测试时强化学习 （test-time RL）、自蒸馏，想验证的是：能不能把 agent 在真实任务里产生的经验，再学回模型里。做下来以后，我们发现，这条路确实可以突破纯推理 （pure inference） 的一部分上限。
接下来又有了一个问题：如果 agent 未来每天都在真实世界里工作、每天都在产生新经验，为什么这些经验只能用一次？
传统的大模型开发，大致经历训练 （Train）、评估 （Evaluate）、部署 （Deploy）、推理 （Inference） 这几个阶段。到了推理阶段，模型开始替用户干活，但同步产生的大量经验通常不会自动回到下一轮学习里。
比如，它今天因为理解错一个需求返工三次，明天遇到类似任务，未必会因为今天这三次返工就变得更聪明。
Reef 想解决的，就是怎么把这条路重新接起来，让 agent 在真实世界里做过什么、错过什么、被用户纠正过什么，都有机会变成下一轮学习的材料。
所以对持续自我改进来说，推理不应该只是每一次任务的终点，也应该是新经验产生的起点。AI 每做完一件事，也可能是在为 「下一个自己」 积累经验。
2.AI 想越学越好，先得知道什么叫 「好」
不同任务里自我改进的难度差别很大。
最简单的一类，是结果好坏几乎没有争议的任务，比如优化 GPU kernel。agent 每改一次代码，都可以直接跑一遍验证结果：更快了，还是更慢了？如果改法真的让性能变好，那这条路径就值得被奖励；如果变差了，就说明这次尝试没有奏效。做得次数多了，模型就会慢慢学到，什么样的写法和修改方式，更容易让性能变好。
这类任务相对好做，因为验证标准 （verification） 很清楚。快了就是快了，慢了就是慢了。
再复杂一点，是让 agent 去 「经营一家公司」。学术界有一个很有意思的 benchmark（基准测试） 叫 CEO Bench，它会模拟市场环境，评估 agent 做经营决策的能力。我们跑这类任务时，如果模型一直不更新，有些 agent 会一路把公司干破产。
但和 kernel 不一样，经营这件事会不断留下反馈：这次决策之后，客户变多还是变少，现金余额上升还是下降，公司最后是继续活着，还是走向破产。agent 得看一段时间之后的结果，才知道前面的决策到底是不是好决策。
所以到了这里，反馈 （feedback） 已经不再是一个简单的 pass/fail（通过/失败）。但只要这些变化能够被识别、被归因，它们就可以变成下一轮学习的信号。agent 做得久了，也就有机会从自己的经营记录里不断调整下一次决策。
再往上走，从部分维度来说，写作风格这样的任务更棘手。比如用户反复告诉一个 agent：「我不喜欢太长的句子」「这个语气太像 AI」「我更喜欢直接一点的表达」。在同一轮任务里，它当然可以照着改，但下一次遇到类似任务，它未必真的记住：这个用户认为什么叫 「写得好」。
我们在 Reef 里做过一个方向，就是把这类反馈慢慢内化到模型里，让它在类似任务里继续保留这种偏好。
因为写作这件事本来就没有一个统一答案。有人喜欢短句，有人喜欢铺陈；有人觉得直接最好，有人更在意语气和节奏。模型再强，也不可能用同一套标准满足所有人。
所以从 kernel 到 CEO Bench，再到个性化写作，更重要的变化其实是 「什么叫做好」。有的任务，「好」 是一个数字指标；有的任务，要从长期结果里看；还有一些任务，连 「好」 的定义本身都因人而异。而自我改进要继续往前走，就必须能处理这些完全不同的反馈。
3. 只 「练模型」 不够，只 「改打法」 也不够
经验找到了，接下来还有一个今天行业里讨论很热的问题：到底应该改 model，还是改 harness？
harness 的确很重要，它可以理解成 agent 做事时的一整套方法、规则和权限。比如让一个 coding agent 改代码，好的 harness 不会让它一上来就动手，而是先把整个代码仓库摸清楚，再决定从哪里下手。
这些好的实践经验都可以慢慢沉淀到 harness 里，把模型原有的能力更稳定地激发出来。它有点像给一个能力不错的人配上一套更成熟的工作流程：同样的人，方法更好，能做出来的事会稳定很多。
所以现在有一个比较流行的观点，是 harness 进化的上限可能比模型进化更高。
但我对此有所保留。
因为 harness 再强，也只能告诉模型 「应该怎么做」，却替不了模型做判断 （judgment）。它可以告诉模型 「你应该先做规划」，但这个任务到底该怎么规划，还是模型决定；它也可以告诉模型 「把任务拆给几个子智能体 （sub-agent）」，但具体怎么拆、每个 agent 做什么，最后还是靠模型自己的能力。
另外，我认为现在直接比较 harness evolve 和 model evolve 谁的上限更高，其实有一点 「不公平」。因为今天做 model evolve，很多时候只能基于开源模型；但 harness evolve 往往直接建立在最强的闭源模型上。两边起跑线本来就不一样。
从我们现在看到的结果来说，更值得探索的不是二选一，而是两边一起改进。
我们现在也在做模型与 harness 协同进化 （model-harness co-evolution）。无论是两边同时训练，还是先改 harness、再训练 model、再继续改 harness，都能达到单独只动一边很难达到的效果。
所以，今天去争 「model evolve 和 harness evolve 到底谁更重要」，可能还太早。而且 harness 以后可能也不只是一本越来越厚的 「操作手册」。好比一家公司不是给每个人发一份 SOP 就能持续运转，它还需要绩效、协作、激励这些机制，才能让不同的人稳定地一起工作。
未来 harness 也可能走向类似的形态：不只是规定 agent 怎么完成一个任务，而是在设计一套让一群 agent 可以长期 evolve 的机制。但只要问题涉及开放式判断，最后还是要回到 model 本身。
4. 经验再多，也得知道怎么 「消化」
model 和 harness 都能改以后，一个更难的问题出现了：得到一次经验，到底应该改哪一边？
我现在越来越觉得，这件事最后应该变成 agent 自己的一种元认知 （metacognition）。它应该自己知道：这次经验值不值得学？应该怎么学？是先记在上下文里，还是沉淀进模型权重 （model weights）？
这个问题其实很像人自己学习。比如参加一场线上会议，有些内容会议助手把转录记下来就够了；有些内容值得单独记成笔记；还有一些东西特别重要，聊完以后还会反复想几遍，甚至顺着它推导出新的结论。
人会天然地区分：哪些东西只是 「记住」，哪些东西应该真的学进去。agent 以后也需要这种判断力。
因为一个 agent 不只有 model weights。它还有记忆、工具、技能、harness。一次任务失败，到底应该把模型练得更强，还是改记忆，还是调整工具，还是直接把做事流程换掉，答案未必一样。
今天这些选择，大多数还是人提前设计好的。再进一步，连 「到底应该改哪里、怎么学」 这件事本身，也应该逐渐变成 agent 的能力。
我会觉得，自我改进最后一定要走到这样一步：不仅有经验，还知道如何把经验变成能力。如果这件事做不到，经验再多，也可能只是堆在那里。
对普通用户来说，这种变化真正进入产品后，直接感知未必来自 「模型又升级了」，而是一些更具体的细节。比如，同样的任务过去需要更大的模型才能做好，持续学习后，小模型也能做好；或者之前纠正过的错误，下一次不再重复。
甚至于用户不需要等到严格意义上的 RSI。很多企业本来就有大量流程化任务，如果 agent 能把其中一类真正自动跑通、自己完成闭环，用户其实已经会很明显地感受到这种 「自我进化」。
更多显性的变化，还可能发生在 harness 上。比如用户可以告诉 agent：「这是紧急任务，3 个回合内解决」；或者任务完成后，如果用户一直没有回来检查，它可以主动换一种方式 （如申请麦克风权限或者发送短信） 来找你。
未来用户感受到的 「AI 在进化」，未必是底层换了什么模型。核心是要感受到，它越来越像一个合作久了的同事，知道事情该怎么推进、怎么收尾。
AI 会学习，但离 RSI 还差好几道坎
1.AI 越学越多，也可能越走越窄
今天很多自我改进的局部 loop 已经可以跑起来，但真正开始让模型持续学习以后，很快会遇到另一个问题：它学进去的东西，不一定都是对的。
我们做自蒸馏 （self-distillation） 的时候，就碰到过一个比较典型的问题：如果处理方式不对，它可能反而会损伤模型的推理能力。
比如我在解决一个问题时，可能先想到 A，后来发现 A 不对；又想到 B，还是不对；最后才找到 C。如果最后只把 「做 C」 这件事重新喂回模型，看起来它学到了正确答案，但中间 A 为什么不对、B 为什么也不对，中间那些自我反思和自我否定其实全部丢掉了。最后答案学会了，找答案的过程反而丢了。
而很多真正好的判断，恰恰来自这个过程。所以自我改进里有一个很容易被忽略的问题：结果正确，不代表这段经验就适合直接拿来学。
记忆也是一样。我们早期做过经验库 （experience library），把 agent 成功和失败的经验都存下来，做新任务时再把相关经验调出来。刚开始效果会很好，但当记忆越来越多，又会出现新的问题：东西都在，但到了真的需要的时候，不一定能调回来。
还有一个更隐蔽的问题。agent 走一条路走久了，很容易越走越顺手，也越走越难回头。agent 在不断采样的时候，天然会更容易走那些概率比较高的路径。如果它已经在一个方向上尝试了很久，上下文会越来越强化这条路，它会越来越难跳出来。
这也是自我改进里一个比较有意思的悖论：一个系统当然可能因为不断学习而变强，但它也可能因为不断学习，越来越被自己过去的经验限制住。
所以 「会学习」 只是第一步，AI 还得学会判断：哪些经验值得相信，哪些经验应该忘掉，什么时候甚至需要主动背离自己过去最熟悉的路径。
2. 现实世界最大的麻烦，是没人随时告诉 AI「你做对了」
尤其对于开源研究来说，很缺的是真实的环境，以及真正适合持续学习的环境。
像 kernel 这样的任务之所以舒服，是因为检验方法特别清楚。我改了一次，跑得更快还是更慢，马上就知道。
但真实世界里，大多数任务的反馈都没有这么 「干净」。一个 agent 做了几十步，最后任务还是失败。问题到底出在哪？是最开始方向就选错了，还是中途用了错误的工具，还是该记住的信息没调出来，又或者某个子任务的判断出了偏差？
更麻烦的是，最后失败的那一步，往往并不是最早出错的那一步。
你很难把 「做得更好」 压缩成一个 reward（奖励信号），然后放心地让模型一直朝那个方向强化。
所以今天其实已经不缺 agent 产生经验。更稀缺的是：什么样的环境，可以持续给它高质量、可验证，而且不会把它带偏的学习信号。这件事决定了自我改进最终能不能从几个 benchmark 上的局部成功，走进真实世界。
3. 基础模型再强，也不可能提前经历整个世界
这里还有一个我觉得经常会被问到的问题：如果下一代基础模型又强很多，这些 continual learning 的问题是不是自然就消失了？
我自己的判断是，不会。因为模型再强，也有一个很难绕开的限制：它不可能在训练阶段，就提前经历未来部署后会遇到的所有事情。
我把这个问题称为 experience exposure（经验暴露）。可以让一个模型见过最难的数学题、读过很多代码、学过大量知识，但真正部署到一个具体环境里，它总会遇到训练阶段没见过的规则、用户和情境。
这其实和人很像。你就算是一个很聪明的教授，突然让你去一所小学教课，也还是得先知道这所学校怎么运转、班里每个学生是什么情况。不是因为能力不够，而是因为这些事情以前根本没经历过。
所以我不太把持续自我改进 （continual self-improvement） 理解成一个 「弱模型时代的补丁」。恰恰相反，模型越强、进入的真实场景越多，它越需要从自己的经验里继续学习。
上下文学习以后能覆盖的事情可能会越来越多，但我自己还是倾向于认为，只靠 「记住当下」 还不够，模型权重最后也需要能够持续更新。
4.AI 能走多远，还看人愿意放多少权
但即便上面这些问题都解决了，持续自我改进也还不等于 RSI。
严格意义上的 RSI，要求 AI 进一步参与到 「下一代 AI 是怎么被造出来的」 这件事当中。
所以在我看来，走向 RSI 的过程中，有两条线一起往前：一条是能力 （capability），另一条是权限 （permission）。能力决定它会不会做，权限决定它到底能不能做。
比如最早的 coding copilot，只能帮你补一小段代码。它能做的行动空间就这么大，再聪明，也没有地方让它表现出更复杂的系统设计能力。
但当 agent 可以访问整台电脑、改整个代码库、调用越来越多的工具之后，它突然就有了更大的提升空间。
把这个逻辑继续往下推，真正严格意义上的 RSI 涉及的范围会非常大。它可能不仅是改 harness，也不仅是调模型权重。它还可能要参与训练流程、生成训练数据、写 kernel，甚至触碰更底层的基础设施和硬件设计，那它离 「参与造下一代 AI」 也就更近了一步。
所以我觉得，真正值得关注的那个拐点，未必是某一天突然出现一个 benchmark，然后大家宣布 「RSI 实现了」。
更关键的时刻是：当 agent 在 「造 agent」 这件事上的判断力和能力，第一次达到甚至超过优秀的人类研究者时，那个时候可能才是更加值得关注的拐点。
但问题也恰恰在这里。它越有可能更早进入更深的自我改进；可权限越大，安全问题也会越具体。
所以今天 RSI 到底有多远，已经不只是一个技术问题。另一条线其实一直掌握在人手里：我们愿意让 AI 把手伸到哪里。
回看六十多年前，I. J. Good 设想过的那个 「机器制造更强机器」 所带来的智能爆炸 （intelligence explosion）。今天 RSI 距离那个临界点还有多远，答案可能已经不只写在技术进展里。
AI 会继续向前，但最终走到哪里？边界不会只由机器自己决定。
