与田渊栋聊 RSI:模型自进化如何到来?
「专聊 RSI 的一期来了。」 在 171 期节目 AI 二季度季报中,我们重点聊了 RSI,递归自进化。 那之后不久的 6 月底,我采访了从去年开始就在这个方向探索的创业者之一田渊栋。
2026年6月,一家成立4个月的公司官宣A轮融资6.5亿美元,估值46.5亿美元。公司叫Recursive SuperIntelligence,缩写RSI,和硅谷今春最热的那个词撞名:recursive self improvement,递归自进化。联创之一是田渊栋。
去年5月他做客晚点聊,聊的是自己的科幻小说《破晓之中》。一年后再坐下来,小说里的设想已经开始有了工程版本。他在节目里说,去年8月用GPT-5写完一篇论文,突然意识到模型已经强到可以不用招实习生。推演下去,五年后自己可能被取代。既然这样,不如自己开公司做这件事。
这期节目聊了RSI为什么在今年复兴,和十年前的AutoML差在哪,Anthropic那篇《When AI builds itself》走到了哪一步,以及一个流行推演:率先达到RSI的公司会不会把别人越甩越远。田渊栋给了另一个答案,取决于你相信智能提升是平滑曲线,还是台阶式的跳跃。
为什么是今年春天 05:53
RSI这个概念不新。十年前Google做AutoML,用AI搜索神经网络架构,思路一脉相承。田渊栋自己就发过architecture search和AI guided optimization的论文。但那一波没有真正转起来。
今年春天变了。田渊栋给的原因很具体:coding agent变强了,模型本身的能力也到了某个位置。
模型能力提升到一定程度之后,你可以用模型来充当研究员。
模型当研究员,先找到当前模型的弱点,再做优化。优化完的模型更强,下一轮再找弱点。这个闭环一旦转起来,就是递归。
去年5月两人聊过AI会不会取代顶尖AI研究员。田渊栋当时的判断是短期很难,因为AI研究员能从少量数据里抓到精准而细节的联系,大模型要靠大量数据做统计。他现在仍然认为大模型替代不了顶尖研究员。变化在于,模型已经足够能干一些研究工作了。
够用和顶尖之间有一大段距离,而RSI要的恰恰是这段距离里的东西。
和GPT-5合写论文之后,他决定开公司 07:15
契机出现在去年8月。田渊栋用GPT-5合作写了一篇关于grokking的论文。做完之后他意识到一件事:模型的能力已经强到让他觉得可以不用招实习生。
想法和思路通过对话给到模型,模型找新方向、证新定理,他这边写代码、做实验。后来写代码也可以交给AI。整个loop开始有转起来的迹象。
他的推演很直接:也许五年之后我就被取代了,这个时间可能已经快到了。
与其自己被取代,不如我就开公司。
这种感受有个门槛,得亲手把模型当合作者用一遍才能体会到。田渊栋观察到一个gap:资深研究员习惯想high level的方向,不太碰细节;刚毕业的学生把模型当执行工具,不做难问题。两边都没把模型放到合作者的位置上。
他自己也有过转变。2023年的年终总结写怎么带团队,2024年就改成要更hands on。大模型阶段,不亲手碰,就不知道模型内部发生了什么,指挥方向会偏,偏了还很难拿到反馈。
传统的研究loop是导师指方向,学生做实验,几天一个来回,一个项目几周几个月。AI把验证一次循环的时间压到几分钟到几小时。出去喝杯茶,开个会,结果已经在了。田渊栋说,以前是以天为周期,现在以分钟为周期,研究者的判断频率完全不一样了。
从AutoML到RSI:解空间的定义权换了人 15:26
十年前那一波,田渊栋参与过。问题在于没有模型能建模人类的高层知识。研究员要定义搜索空间的大小、行为,AI在这个空间里搜一个更好的解。人深度参与每个细节,AI本身比较笨。
现在不一样的地方是,模型对AI本身、对架构本身有理解。这个理解可以部分代替人去定义问题。解空间变得更大,也更智能。
田渊栋把区别落在人参与多少上。以前是人定义好空间让AI搜;现在的难题是最大限度发挥AI的能力,让它自己找到解空间的结构,自己找到解法。
这带出一个概念上的区分。OpenAI说2026年9月做AI研究实习生,2028年3月实现真正自动化的AI研究员。听起来目标是把人从loop里拿掉。但递归自进化强调的是循环上升。
田渊栋认为递归会先发生,完全自动化不一定很快。人还在loop里,只是层级更高。低层级的工作AI接走了,人要做更高层的判断,脑力消耗反而更大。
他也承认,一旦循环跑起来,掌握循环的团队可能进入加速度,把别人甩开。这个推演他给了一个是但有条件的回答。
从Anthropic的进展,到强者愈强的变数 19:48
Anthropic 6月发了一篇长文《When AI builds itself》,副标题是他们在RSI方向上的进展和探索。里面有个具体案例:Claude的agent端到端独立完成一个开放式的AI安全研究,累计工作800小时,把weak-to-strong的性能差距缩小了97%。人类来做,一周缩小23%。
田渊栋看了,判断这还停在提效。做法是把representation拿出来做分析,把很多常规想法放在一起,最后分数往上提。算法本身不新鲜。
有分数才能做自我进化,因为除了分数没有别的办法衡量模型现在多强。分数通常体现为提效、提速、降延迟。他把这称为自进化的第一层。
第一层有价值,但离AI做研究还有距离。田渊栋区分了两类任务。从头写一个Linux,或者写一个C编译器,路径清楚,只是工作量大,AI可以做。难的AI research问题,人自己都不知道怎么做,AI现在也很难。
RSI比coding agent大得多。coding agent只是执行者。而且开源模型已经把coding能力扩散出去了,GLM、Kimi这些模型在日常执行任务上够用,和Opus的差距在缩小。所有人都有coding能力,不等于所有人都有RSI。
行业里新的尝试在变多。Mirendil 6月25日官宣,种子轮2亿美元,团队来自DeepMind和Anthropic。Sakura AI在东京成立了RSI team。田渊栋创业前和Anthropic的人聊过,对方问他要不要加入,后来对方自己也走了。他开玩笑说,跟我聊过的人都跑路了。
为什么出来做。OpenAI和Anthropic都是两三千人的公司,都要冲IPO,手上最紧的业务是code agent,能赚钱就先赚钱。RSI方向比较远,在大公司里很难成为第一优先级。
然后是最热的那个推演:谁先到RSI,谁就把别人越甩越远。田渊栋认为这个逻辑有前提。如果scaling law是全部,能力随算力平滑上升,那领先者确实会一直领先,初创公司没机会。
他的另一个图像是S型曲线:涨一段,遇到瓶颈进平台期,等下一个突破再涨一段。每个平台期都对应一个突破。没突破的时候,大家做得再好也只是逼近上一个效果的上界。
这个判断现在还不主流,取决于你对scaling law有多大信任。田渊栋补了一句现实约束:scaling law的横轴是指数级的,十倍算力换线性增长,而电力和算力都有上限,不可能把整个地球的电力供给一个系统做自我进化。他还说过,如果scaling law就是未来,那是一个悲哀、也很无聊的未来,因为没有新的知识突破。
First Steps:三个benchmark,一次外行打败专家 45:51
6月11日,Recursive发了第一篇技术博客,《First Steps Toward Automated AI Research》。三个成果,用同一个系统跑,不是为每个任务单独改。
第一个,NanoChat Autoresearch的5分钟训练,把BPB这个验证集指标压得比community更低。第二个,NanoGPT Speedrun,从79秒提到77秒。第三个,GPU算子优化,在英伟达2026年3月发布的SOL-ExecBench上拿到SOTA。
数字看起来不大。NanoGPT Speedrun提了2秒,外行会觉得就这。田渊栋解释,79秒是community做了两年的SOTA,已经很难再往上提。做过这个方向的人会知道,2秒是个大数字。
算子优化那一项更说明问题。第二名是一家以色列公司double ai,CEO Sasha是前Mobileye的CEO,Mobileye做过特斯拉的芯片供应,团队里都是专业做GPU的工程师。Recursive团队里没什么GPU专家,田渊栋自己也没真正做过算子优化,只做过大模型效率提升。结果他们的系统比double ai高10%。
最懂算子优化的应该是我,但我没真的做过算子优化。
这句话的意思跟个人能力关系不大。一个通用系统加上领域知识不多的人,可以打败一个专家团队。这是RSI第一级台阶的实际样子:反馈快、可验证、分数明确的任务,系统能自己迭代。
三个benchmark的共同点是反馈快。预训练找更好的想法,算子找更快的实现,都能在几分钟到几小时内验收。这也是它们被选为第一步的原因,容易拿到一个初始结果,让系统先跑起来。
小规模到大模型之间有gap。NanoChat训的是GPT-2级别,和现在的主流大模型参数差很多。田渊栋说在继续做,具体不方便展开。系统接下来会优化预训练和后训练,商业化也在想,但不想为了一两个垂直领域把系统做特殊化。
把AI当狗训练,以及一个少数派的判断 57:13
安全问题是这类公司绕不开的。田渊栋说,来问他的人里,领域外的比领域内的多,也问得更急。领域内的人反而没那么担心,因为知道这不是一天到来的事。
他的回答分两层。第一层,训练AI像训练狗,信号是人给的,进化压力下AI不会长出人的自我意识。第二层,意识和创造力不是一回事。有些天才数学家和物理学家在自己的领域极强,同时与世无争,不想要权力。能力和欲求可以分开。
可解释性是另一层保险。知道模型在什么地方起作用、用什么能力、得到什么结果,黑箱的恐惧就能消解一部分。
这里他把自己归为少数派。大部分人已经觉得大模型太复杂,没希望真正理解里面在干什么。他相信存在一个好的principle,找到它既能让模型更强,也能让模型更安全。
这种相信来自过去十几年的工作。他一直在做神经网络训练算法的分析:梯度下降给网络动力学带来什么影响,权重怎么生成,怎么学会pattern。2020年到2021年之后,他慢慢觉得也许自己在这条路线上。
同行在变少。很多人放弃了理论,加入scaling大军。他提到Mirendil的联创Behnam Neyshabur,早年也做模型理论分析,和普林斯顿的Sanjeev Arora合作过,后来去了Anthropic。田渊栋的说法是,打不过就加入,这也是一种选择。
他自己的目标是让AI变成科学。路径参照历史:炼金术变成化学,第谷的观测到开普勒的总结,再到牛顿的原理。
AI终将变成科学。
下一个牛顿可能是AI,也可能是人和AI一起。真到图灵奖可以颁给一个系统的时候,图灵奖本身也不重要了。系统会变成knowledge discovery system,隔一两个月产出新东西。
到那个状态,人类研究员的乐趣是什么。田渊栋说,第一是理解AI到底怎么工作,第二是欣赏美。他平时会翻数学证明,看别人怎么想出来的,那种豁然开朗的感觉本身是享受。AlphaEvolve把矩阵乘法减少一次乘法,他看了,觉得有意思,但那是数的层面,是高空穷举找到一个好结果,还没到道的层面,没提出新的理论链条。
从Waymo到FAIR,150人是一条线 01:08:13
田渊栋的职业路径有几个转折。最早在Google X做无人驾驶,做紧急车辆检测,样本少到连分类器都训不出来,只能手工写规则。他当时判断这个方向要么0要么100,corner case要修很久,中间状态不存在。2011年听说五年后能上路,2013年进去还是五年,现在旧金山和洛杉矶在路上跑了,也还是五年。
2013到2014年正是深度学习起来的时候。他希望在无人车内部做深度学习,但资源有限,GPU少,级别低的人拿不到。谷歌内部级别7的人有自由度,级别4的人做打杂。他当时是4级。这段经历让他后来去Meta FAIR,从工程转向研究。
FAIR前几年还是偏工程。做围棋项目,他自己搭蒙特卡洛树搜索,搭分布式强化学习系统。打开电脑全是代码,别人打开电脑全是论文,他被人评价太工程,不像研究员。2018到2019年OpenGo战胜韩国职业棋手,20比0。之后他才慢慢形成自己的研究taste。
hands on的经历给他一个能力:区分难的不同程度。只指方向不做实现的研究员,容易把难的问题、比较难的问题、非常难的问题混在一起,因为没有亲手做过,就不知道卡点在哪。接地气的研究员会告诉团队,为达到这个目的必须走一二三四五,把这些拼起来。
他举了两类研究员。LeCun是提问题、开坑的类型。自监督学习那张经典蛋糕图,把强化学习放在最上面,因为强化学习的反馈最少,他不认为那条路有前途。这个判断不一定全对,但指出了一个方向,很多人跟着走。Ilya也属于这一类,对scaling有宗教般的信仰,让大家别想太多,把工程做好,把数据放进去。田渊栋自己的很多工作属于第二类,不仅知道做什么,还知道怎么做,把机制抓出来。
大公司做AI有个结构性麻烦。田渊栋说现在这一波AI是反大厂的,大厂的incentive、职级、人和人之间的关系,跟AI需要的方向背道而驰。组织越臃肿,进展越慢。一旦出现经理和执行者的二级架构,速度就慢下来,跟导师和学生之间的信息损耗是一个道理。
他给了一个数字:150人。LaMDA、FAIR、X都是超过150人之后开始不行。30人、40人的团队,每个人认识每个人,关系简单。人再多,就得靠组织架构获取知识,再汇报给上面。OpenAI七千多人,但做模型的核心团队很小。
Recursive不打算招太多人。
读者能带走的判断有三条。
第一,RSI在今年变热,靠的是coding agent把执行这一步的成本打下来了。但RSI比coding agent大得多,难的AI research问题人自己都不知道怎么做,系统暂时还接不住。第一级台阶能提效,已经有用,别把它当成终点。
第二,强者愈强的推演成立与否,取决于智能提升是平滑曲线还是台阶。田渊栋押台阶。如果是台阶,平台期就是初创公司的窗口,突破来自新想法,而新想法现在还不是靠更强的coding就能自动长出来的。
第三,可解释性在田渊栋的框架里是加速器,不只是安全附录。找到模型运转的principle,既能变强也能变安全。他是这个判断上的少数派,但他做了十几年相关研究,这个少数派立场至少值得放进自己的判断里。
如果只记一句话:别把scaling law当成唯一的剧本。田渊栋给的理由很朴素,电力和算力有上限,而人类对智能的探索才刚看到一点星光。
「专聊 RSI 的一期来了。」
在 171 期节目 AI 二季度季报中,我们重点聊了 RSI,递归自进化。
那之后不久的 6 月底,我采访了从去年开始就在这个方向探索的创业者之一田渊栋。他参与创立的 Recursive SuperIntelligence 的缩写也是 RSI,目前估值超 46 亿美元。
我们聊了这个不算新鲜的想法为何在今年春天“复兴”,相比十年前 Google 做 AutoML 用 AI 辅助神经网络的架构搜索,现在的 RSI 或者说 AutoResearch 已经发展到哪一步。
6 月初,Recursive SuperIntelligence 释放的第一批成果是一个具体的实力,它们在小规模上,验证了一个 AI 系统可以自动化地提升性能、提升效率和改进 Infra:
图注:图中蓝色底纹一列,为 Recursive Superintelligence 公司 6 月初取得的成果。
这期节目录制的 6 月底,还没有涵盖一些后续事件,如 OpenAI 一举解决了 10 个数学难题。Thinking Machines Lab 的联创之一翁荔重新回到 OpenAI,据报道,她将带团队探索的方向就是 RSI。
关于 RSI,一个极有诱惑力、也十分危险的假设是:率先达到这个状态的公司,会把其他人越甩越远。这也是从 Anthropic 到 OpenAI 等前沿模型公司尤为关注这个方向的原因之一。
这个推演成立吗?田渊栋认为还有另一种可能性,这取决于,你认为智能的提升是一条平滑向上的曲线,还是你 bet(押注)它会阶梯式跳跃。
本期也已发布了视频版,可前往各主要视频平台搜索「晚点聊」观看。
本期嘉宾:
* 田渊栋,Recursive Superintelligence 联创
本期主播:
* 曼祺,《晚点 LatePost》科技报道负责人
时间线跳转:
-从科幻设想走向 RSI:为什么循环开始转起来
05:53 为什么 RSI 在今年变热?
07:15 去年与 GPT-5 合写论文,从不用再招实习生到创业
13:10 coding 能力提升后,研究老手的春天又回来了
15:26 从 AutoML 到 RSI:AI 辅助研究的今夕变化
-RSI 竞赛:“它比 coding agent 大得多”
19:48 Anthropic 长文更多展示了提效,还不是递归自进化
27:14 解决 RSI 不只靠 coding 这个支点
38:07 强者愈强的变数:智能提升可能是跳跃的,而非平滑的
43:38 终极形态也许是“修仙社会”
-Recursive 公司的第一步:把研究系统跑起来
45:51 First Steps:三个 benchmark 的初步成果
54:43 现在缺什么?数据、算力与可解释性
-AI 终将成为科学
57:13 自我进化的风险
59:37 “多数人已经绝望了,但我认为AI 终将成为科学”
01:05:45 当 AI 能自己发现新知识,那我就来欣赏吧
-追求美的结构,也知道这是一种局限
01:08:13 从 Waymo 到 FAIR,从工程回到研究
01:14:11 hands on 带来的研究判断:区分难的不同程度
01:20:26 大厂为什么变慢:小团队、扁平协作与 150 人临界点
01:23:22 追求美的结构,也知道这是一种局限
01:26:09 连点成线:延伸推荐
剪辑:杨、Nick
相关链接:
* Recursive:First Steps Toward Automated AI Research
* Anthropic:When AI builds itself:Anthropic 对递归自我改进的研究框架与风险判断。
* 177 期:详解 Kimi K3:强到冲击 Anthropic 估值的模型什么样?
* 177 期文字版:详解 Kimi K3:强到冲击 Anthropic 估值的模型什么样?丨晚点播客
* 171 期:与 Henry 的「AI 季报 26Q2」:从 coding 到 RSI,强者愈强的未来?
* 171 期文字版:AI 季报 26Q2:从 coding 到 RSI,强者愈强的未来?
* 116 期:当 AI 研究者写科幻,与 Meta 田渊栋聊他的智能想象:我们终会“所思即所得”
* 108 期:与马毅聊智能史:“DNA 是最早的大模型”,智能的本质是减熵
附录:
* Richard Socher:Recursive 联合创始人 & CEO;也是 you.com 的创始人、CEO,曾任 Salesforce 首席科学家兼执行副总裁。
* Mirendil:由前 Anthropic 研究人员创立的 AI 研发公司,关注用 AI 推进科学与技术研究。
* Behnam Neyshabur:Mirendil 联合创始人、CEO;此前在 Anthropic 与人共同领导 Discovery 团队,目标是构建 AI Scientist/Engineer。
* Sanjeev Arora:普林斯顿大学计算机科学 Charles C. Fitzmorris 教授、Princeton Language and Intelligence 创始主任;研究涵盖机器学习、理论和自然语言处理。
* 马毅(Yi Ma):香港大学数据科学研究院(HKU IDS)院长,并任香港大学人工智能讲座教授。
* David Luan:Adept 联合创始人、前 CEO;曾任 Amazon 自主系统副总裁及 AGI SF Lab 负责人,2026 年初离开 Amazon。
* Adept:David Luan 等人在 2022 年创办的 AI agent 公司。Amazon 在 2024 年取得其技术授权并吸纳多名核心成员,Luan 随后负责 Amazon AGI SF Lab。
* FAIR(Meta Fundamental AI Research):Meta 的基础人工智能研究组织,田渊栋曾在其中工作。
* Open-ended algorithms(开放式算法):不把搜索限定在固定目标或单一路径上,而是持续保留、组合有价值的新颖解法的算法思路。节目里它是“让研究系统不断产生下一轮可尝试方向”的技术底座之一。
* Reward hacking(奖励黑客):系统找到了能拿高分、却没有真正完成目标的“漏洞解”。例如 GPU kernel 评测中,候选方案可能利用计时或状态残留,而不是真的更快;因此需要独立验证与防作弊评测。
* GPU kernel(GPU 算子内核):在 GPU 上直接执行某个张量运算的底层小程序,例如矩阵乘、归一化或注意力的一部分。它不是操作系统“内核”;写得更快,会直接降低模型训练和推理的成本。
* BPB(bits per byte):按字节计算的验证集损失指标;数值越低,表示语言模型的预测越好。NanoChat Autoresearch 用它来判断一次训练改动是否值得保留。
* NanoChat Autoresearch:Andrej Karpathy 在 2026 年 3 月公开的单 GPU 自动实验项目,建立在他 2025 年 10 月发布的 NanoChat 训练代码之上。AI agent 每次修改训练代码,运行固定 5 分钟实验,以验证 BPB 是否下降;适合测试“短反馈、可自动验收”的研究循环。
* NanoGPT Speedrun:Keller Jordan 发起并维护的协作式训练效率挑战。它从 Karpathy 2024 年 5 月的 GPT-2 复现基线出发,Keller Jordan 的首个公开改进记录在 2024 年 6 月出现;目标是在 8 张 NVIDIA H100 上,尽可能快地把小 GPT 训练到 FineWeb 验证集 3.28 的损失。
* SOL-ExecBench:NVIDIA 于 2026 年 3 月公开的 GPU kernel 执行评测。它包含来自 124 个模型、共 235 道 CUDA kernel 优化题,衡量实现距离硬件理论性能上限还有多远;项目公开资料未披露内部立项时间,公开论文与发布是目前可核验的起点。
小红书@曼祺_火柴Q即刻@曼祺_火柴Q
☆《晚点聊 LateTalk》建立「 播客听友群」啦!☆
欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流,第一时间收听新节目。
这里有更多互动,更多话题讨论。欢迎贡献选题 & 推荐嘉宾。
请先添加「晚点」小助手的微信号,备注:“晚点聊”,我们邀请您入群。
关注公众号《晚点 LatePost》和《晚点对话》,阅读更多商业、科技文章:
本集资源与出处
- 原节目在小宇宙收听本期支持主播,请到原平台收听
- 音频节目音频直链来自小宇宙
- 订阅小宇宙节目主页
- 文本精读 Markdown 版便于引用与 AI 读取



