AI 会是人类最后的发明吗？

这篇文章讨论了人工智能领域出现的递归自我改进现象，即AI开始深度参与创造比自身更强大的下一代系统。

文章指出，这不仅会带来技术发展的指数级加速，也将彻底改变人类社会的研发模式和组织架构。

同时，作者深入分析了递归系统面临的验证瓶颈、局部最优和过拟合等实际限制。在人机协作的未来，人类的核心价值将从单纯的“执行”转向设定目标、保持审美判断力和承担最终责任。

最后，文章强调无论技术如何发展，个人和组织都需要建立诚实的反馈闭环，跨越自我保护的自尊心门槛，保持持续更新的进化能力。

01

真正令人担忧的不是“AI 变聪明”，而是“AI 开始自己决定变聪明的速度”

最近 AI 领域最引人注目、也最让人类产生深刻自我怀疑的概念，叫做Recursive Self-Improvement（递归自我改进，简称 RSI）。

听起来很复杂，其实可以简单理解为：

AI 开始参与制造下一代 AI。

但目前“自我改进”这个词有些被过度使用：

让大模型回答问题后再自己检查错别字，这不叫 RSI；

让一个 Agent 根据报错信息修改几行业务代码，也算不上真正的 RSI；

甚至让 AI 帮助 OpenAI、Anthropic 或 Google 的工程师编写训练代码，依然只能算“半闭环”。

最严格意义上的 RSI，是这样的过程：

一个 AI 系统能够参与设计和制造比自身更强的后继系统；而新系统诞生后，又获得更强的能力去设计下一代后继者；这种改进可以连续发生，且越来越少依赖人类。

也就是说，真正的关键不在于 Self-Improvement（自我改进），而在于Recursive（递归）——第一代修改第二代，第二代比第一代更擅长修改第三代，第三代又比第二代更擅长锻造第四代。

如果把智能水平记作 C，过去我们只关心：C 有多大？（这台机器今天考多少分？） 而 RSI 真正改变的是变化率：

甚至进一步变成：存量智能 C 本身，开始直接放大增长率 dC/dt。

当“智能”本身成为生产更多智能的“生产资料”时，游戏的性质就彻底改变了。

02

为什么普通闭环只能让你变熟练，而递归却能引爆奇点？

早在生成式 AI 浪潮兴起之前，Elon Musk 就在采访中透露过他的核心心法：“我认为极其重要的一个建议是，拥有一个可纠错的反馈闭环（Feedback Loop），不断思考自己做过什么，以及怎样才能做得更好。”

听起来很像我们熟悉的PDCA 循环（计划-执行-检查-处理）或者《精益创业》（开发-测量-认知），对吗？那为什么普通人的 PDCA 只能让人变成熟练工，而递归自我改进却能引发指数级爆发？

因为并非所有的圆圈，都在同一个维度上旋转。

人类世界里的“努力与改进”，实际上分为四个残酷的段位：

第 0 段位：开环死磕（Open Loop）。只管埋头苦干，从不看结果反馈。把第一年的工作经验机械地重复用十年——这不叫有十年经验，这叫把同一个 Bug 运行了三千六百五十次。

第 1 段位：PDCA 与恒温空调（一阶闭环）。家里空调设定在25°C，高了吹冷风，低了就停机。目标固定，规则固定。你在做题、打球时根据结果微调动作，这能帮你消除误差，但它的数学宿命是边际收益递减——离满分越近，进步越慢，最后卡死在天花板上。

第 2 段位：精益创业（双环学习）。不仅微调动作，还敢于根据市场的反馈去修改最初的目标和假设（Pivot 转型）。原本想做游戏，发现大家只喜欢里面的聊天工具，于是干脆砍掉游戏改做 Slack。

第 3 段位：递归自我改进（RSI）。

前三个段位都有一个共同点：

“改进者（主体）”和“被改进的对象（客体）”是分开的。是你拿着一把锤子去敲打外部的产品或技能；作品变好了，但拿锤子的那个你，底层算力并没有变。

用数学公式来表达，普通的 PDCA 循环是：

这里的 x 是你的产出，f 是你的大脑或工作流。你在不断优化 x，但算子 f 是固定的。

而递归自我改进是：

那个用来改进事物的算法 f，像上帝一样把手术刀对准了自己。

第一轮，你用 1.0 版本的自己，把你自己升级到了 1.1 版本；

第二轮，你不再用 1.0 的能力去努力，而是用 1.1 版本的认知和工具，把自己推到 1.3 版本；

第三轮，1.3 版本的你一口气把自己推向 1.8 版本……

普通的反馈闭环，提高的是位置（Position）；

递归自我改进，提高的是加速度（Acceleration）。

03

计算机史上的第一次“自举”神话，与被加速的历史钟表

这种“左手抓右手、自己揪着鞋带离开地面”的奇观，在计算机史上早就真实发生过一次，行话叫Bootstrapping（自举）。

很多编程新手都会问一个“先有鸡还是先有蛋”的问题：C 语言的编译器，是用什么语言写出来的？

答案是：用 C 语言自己写的。

在没有 C 语言编译器之前，谁来编译这段代码？先驱们的做法极度优雅：

先用繁琐的汇编语言，手搓一个极其简陋、只能听懂几个基本指令的“种子编译器 v0”；

用这几个基本指令，写出稍微聪明一点的编译器源码，喂给 v0，编译生成“编译器 v1”；

直接扔掉汇编！用 v1 支持的新特性去重写更强大的编译器源码，再用 v1 把它编译成 v2；再用 v2 编译 v3……

每一次循环，编译器都在用自己上一秒刚长出来的牙齿，去咀嚼和锻造下一秒更锋利的自己。

1965 年，图灵在布莱切利庄园的老搭档、统计学家 I.J. Good 提出“智能爆炸（Intelligence Explosion）”假说：

只要人类造出第一台哪怕只比人类聪明一点点、且具备“设计机器能力”的机器，它就能设计出更聪明的第二代机器，从此触发链式反应。

古德的原话是：第一台超智能机器，将是人类需要做的最后一项发明，前提是它足够温顺，肯告诉我们怎样控制它。

但今天我们要对“智能爆炸”做一个关键祛魅：如果 RSI 真正实现，最先改变的不是某天凌晨 3 点一台机器突然从 IQ 140 变成 IQ 10000，而是“时间本身”被压缩了。

今天训练一代前沿模型仍以“月”甚至“年”为单位。一旦假设提出、实验设计、代码编写与结果分析大部分被 AI 接管，研究循环就会从“一年一次”压缩成“半年一次”，再变成“一月一次”“一周一次”。正如 Leopold Aschenbrenner 在《Situational Awareness》中所描绘的：

数百万个“AI 研究员”昼夜不休地并行试错，把原本需要十年的算法演进压缩进短短一年。

RSI 真正改变的，是人类技术进步的“时钟频率”——历史本身开始加速了。

04

破除迷思：“递归”并不等于“无限指数爆炸”

这里特别容易产生一个误解：只要 A 能制造更好的 A，就一定会无限指数爆炸吗？

未必。因为任何真实系统都逃不过Amdahl's Law（阿姆达尔定律）与物理世界的瓶颈约束：

AI 可以一天提出一百万个实验方案，但你未必有一百万块 GPU 去跑；

AI 可以一天设计出一百种新芯片架构，但台积电的晶圆厂不可能一天建成；

AI 可以一天筛选出一千种候选药物分子，但人体的三期临床试验依然要遵守生物学的钟表。

一个系统不会因为其中90%的数字环节快了 100 倍，整体就自动快 100 倍——剩下的那10%物理与算力瓶颈，会突然变成决定全局的卡点。

所以，理解 RSI 最精准的经济学表达不是“无限指数增长”，而是：

RSI 把“研发能力”从一个外生变量（Exogenous Variable），变成了一个内生变量（Endogenous Variable）。

以前，推动技术进步的速度取决于外部有多少人类博士、多少资本；

未来，系统内部形成了“AI 越强 → 研发越快 → 下一代 AI 更强”的自催化回路（Autocatalysis）。

它会不会无限循环取决于外部的物理瓶颈，但仅仅是把这个内生循环闭合一次，就足以颠覆整个牌局。

05

截至 2026 年 10 月，我们走到哪了？三个咬合的齿轮与“小闭环”

为什么 I.J. Good 的预言在纸上躺了六十年，偏偏在最近两年让硅谷既狂热又紧张？

因为过去的 AI 训练是一个典型的“人类手工闭环”：AI 负责吐结果，人类工程师负责看效果、洗数据、调参数、给回答打分（RLHF）。

在这个循环里，人类就是那个最慢的瓶颈——就像在法拉利引擎和车轮之间，串联了一头必须按时喝咖啡、开周会的老黄牛。

而到了 2026 年，老黄牛正在被移除。AI 至少在三个层面上，开始自己咬合自己的齿轮：

第一个齿轮：把“慢思考”蒸馏成“快直觉”。遇到难题时，模型先调动海量推理算力在后台进行成千上万次搜索、反驳与试错（心理学上的“系统 2”慢思考）；一旦在几千条死胡同里找出那条唯一走通的黄金路径，它反手就把这条路径作为高纯度数据，“蒸馏”写回自己的神经网络权重里——用今天高成本的“苦思冥想”，重塑自己明天低成本的“肌肉记忆（系统 1）”。

第二个齿轮：大自然自带的“冷酷裁判”。写诗聊天好不好，得靠人类主观打分；但代码跑不跑得通、数学证明对不对，编译器和形式化验证器（如 Lean）说了算。有了毫秒级响应且绝对客观的裁判，AI 就能关起门来，一秒钟内完成几万次“生成—报错—修改—内化”的自我博弈。

第三个齿轮：AI 的肉身恰好是代码，而 AI 最擅长的恰好也是写代码。木匠没法用木工活去升级自己的大脑神经元，但 AI 的神经元、训练框架、底层 CUDA 算子全是由代码写成的。手段（写代码）与目的（升级由代码构成的智能），在历史上第一次实现了像素级的重合。

这也直接催生了实验室里已经跑通的“窄域小闭环”：

Darwin Gödel Machine能够自己修改自己的 Coding Agent，测试新版本后再让更强的版本继续参与下一轮修改，直接把 SWE-bench 成绩从20%推高到了50%；

2026 年 9 月问世的AIDE²更进一步：它连续自主运行八天，对自身的 AI Research Agent 进行手术，连续迭代了七代（自主演化出新的搜索策略与记忆机制），且进化出的能力还能迁移到未参与优化的任务中。

从计算机科学定义来看，局部的“小闭环 RSI”已经不是科幻，而是既成事实；

真正尚未合拢的，是涵盖“选方向—提假设—设计实验—训练下一代基座模型—验证部署”的全流程“大闭环”。

06

走进 RSI 的“前室”：AI 已经坐上了制造下一代 AI 的生产线

即便全流程“大闭环”尚未完全合拢，三大前沿实验室在 2026 年披露的内部数据也揭示了一个微妙的事实——机器虽未独立接管进化，但它已经坐进实验室的主驾驶位了：

Anthropic：截至 2026 年 5 月，其生产代码库中超过80%被合并的代码已由 Claude 编写；2026 年第二季度，每位工程师每天合并的代码量大约是 2024 年的8 倍（尽管 Anthropic 严谨地提醒，代码合并量绝不直接等同于研发生产率提高 8 倍）。

OpenAI：截至 2026 年 8 月中旬，其研究部门每一个“人类工作日”已经对应约3.1 个 Agent 工作日。OpenAI 已在内部跑通“自动化研究实习生（Automated Research Intern）”，能独立完成原本需要人类研究员耗费数天的明确研究任务，并将公开目标锁定在 2028 年 3 月前实现完整的“自动化 AI 研究员”。

Google：其AlphaEvolve系统不仅优化了 Google 的数据中心调度与芯片设计，还直接优化了 AI 训练算法——其中就包括用来训练支撑 AlphaEvolve 自身底座模型的算法。

我们或许还没有推开完整 RSI 的大门，但全人类显然已经站在了RSI 的前室（Anteroom）里。

07

2026 年最微妙的跨越：从“写代码”到“研究品味”

很长一段时间里，业界普遍认为自动化 AI 研究最大的障碍不是写代码，而是Research Taste（研究品味与判断力）：

到底哪个问题值得研究？哪一个实验值得消耗宝贵的算力去跑？

实验跑出一个反常结果，它究竟是一个重大突破的苗头，还是某行底层代码的 Bug？

一个方向连跑三个月没出成果，该咬牙坚持还是果断放弃？

这也是为什么 2026 年 10 月刚发布的TasteVal基准测试震动了整个学术圈。研究者把负责写代码的 Agent 固定死，专门测试另一个大模型“设计实验方案”和“解释实验结果”的品味。

结果令人惊讶：Claude Opus 5.5 在该测试中超越了参与评估的人类专家基线，实验算力效率达到人类专家基线的 2.3 倍；更关键的是，论文发现自 2025 年 12 月以来，AI 在这项“实验研究品味”指标上大约每三个月翻倍一次。

但保持独立思考的话，这里必须加上一条极重要的边界限定：TasteVal 测试的是“在题目已经给定之后，谁更会做实验”；它并没有测试 AI 能否自己决定“什么问题值得研究”。

从