谷歌DeepMind高管：史无前例的资本开支，本质是押注递归自我改进（RSI）

谷歌 DeepMind 首席战略官贾吉特・塞洪（Jasjeet Sekhon） 上周末，谷歌旗下 DeepMind 人工智能部门首席战略官贾吉特・塞洪，用一个概念解释：是什么成果才能支撑行业当前规模空前的资本投入 ——递归自我改进（Recursive Self-Improvement，简称 RSI）。这个当下炙手可热的术语，指代能够自动迭代、生成更强版本自身的人工智能。 塞洪在加州大学伯克利举办的智能体 AI 峰会上表示：递归自我改进（RSI）是 “整套投资逻辑的核心组成部分”。 如今在行业内，RSI 已经接过通用人工智能（AGI）的热度，成为所有人热议的下一个里程碑。至于 RSI 会先于通用人工智能到来，还是与 AGI 同步实现 —— 也就是造出在绝大多数具备经济价值任务上超越人类的 AI—— 则是另一个完全独立的议题。 客观来说，RSI 早已是行业长期追寻的目标。我最早在 2023 年初就从研究人员口中听到这个词，但直到最近几周，各大科技企业才开始在公开场合讨论这一概念。 AI 领域或将遭遇 “空中失速” 包括谷歌在内重金押注 AI 的巨头，软件与云服务相关销售收入虽持续提速，但谷歌股东愈发感到焦虑：公司今年计划投入约 2000 亿美元建设 AI 数据中心与相关硬件，现金消耗不断扩大，明年资本开支还将进一步加码。 塞洪今年 4 月从桥水基金入职谷歌，此前曾任耶鲁大学统计学教授。他坦言：“目前 AI 创造的收入，尚无法覆盖我们当下的资本投入。” 这意味着存在巨大风险：我们有可能遭遇 AI 产业 “空中失速”—— 巨额投入持续发生，预期营收却迟迟无法兑现。 塞洪直言不讳：全行业当下的资本投入，是 “人类文明史上规模最大的科学豪赌”，规模远超美国阿波罗登月计划、曼哈顿工程以及互联网早期研发投入。他提到，铁路建设总投资额或许更高，但 “人类当时已经掌握修建铁路的成熟技术”，因此算不上一场面向未知的科学赌注。 他表示，当前业界现有技术还达不到真正意义上的 RSI，但 “押注 RSI 无法实现，看起来并非明智选择”。如今行业已经能看到 RSI 的雏形：各大 AI 企业利用模型辅助设计其他模型的组成模块。 “其实这并不新奇，当年人类正是依靠蒸汽机制造新一代蒸汽机。” 真正的递归自我改进（RSI） 不少读者或许会怀疑，RSI 会不会像当年的通用人工智能概念一样，最终沦为空洞话术。但不可否认，短短数年 AI 已经实现巨大跨越： 从只能对话、无法获取新信息、不能主动行动的静态模型； 进化到能够自主上网检索信息、调动海量算力推演复杂问题再输出答案； 可以读写多语言代码；能够操控浏览器、电脑以及各类软件执行任务。 现代 AI 智能体还具备这些能力： 整合多方数据完成任务；记录执行过程，方便开发者排查错误；学习人类指令掌握任务方法；遭遇失败后自主纠错，长时间持续解决问题、仅需少量人工干预；衍生 “子智能体” 拆分复杂任务。 值得关注的是，AI 已经能够生成、优化内核、编译器组件等底层软件，提升模型在专用服务器上的运行效率。研究者还可以将模型自身输出结果作为训练数据，更新权重参数，持续优化后续输出。 但真正的 RSI 标准要严苛得多：系统能够循环迭代，持续优化自身赖以实现升级的软件架构与训练流程，形成正向增强闭环。有研究者这样定义：RSI 意味着模型可以独立重构全套架构，演化出全新模型。 人类距离这一步还十分遥远，更谈不上依靠 AI 自主做出全新重大科学发现。 不过塞洪基于近期技术进展判断，RSI “大概率会在未来几年内出现”。 在同一场峰会圆桌讨论中，他的 DeepMind 同事奥里奥・维尼亚尔斯，以及 OpenAI 联合创始人沃伊切赫・扎伦巴均认为，RSI 有望在 2027 至 2028 年落地。 生物攻击安全风险 塞洪表示，RSI 落地固然能带来巨大红利：AI 有望攻克疾病、助力人类探索宇宙，但他与刚加入 Meta “超级智能” 研究部门的伯克利计算机教授宋晓冬，在论坛中重点探讨 AI 衍生的各类风险，尤其是被用于网络攻击、生物攻击。 宋晓冬提出：短期来看，AI 对攻击者更加有利。攻防天然存在不对称性：攻击者只需要找到一个漏洞实现突破，防御方却必须守住全部潜在攻击入口。 塞洪对此表示认同。攻击者持续污染开源代码库、利用人类编写的漏洞代码发起进攻，“短期内形势不容乐观。大量系统存在薄弱环节，例如美国电网、医疗机构等等。” 长远来看，防御方未来也能依靠 AI 对抗 AI 驱动的攻击，更多企业与机构有望搭建经过验证、不存在漏洞的系统代码。 但塞洪认为，相比 AI 催生的生物攻击风险，网络安全问题几乎算是小挑战。 “人类当前在生物风险面前十分脆弱。我们距离一个危险场景已经很近：任何人只用自然语言和 AI 对话，就能设计病毒、改造蛋白质。在这个场景下，长期来看优势依然掌握在攻击者一方。” 想要抵御这类威胁，必须对 “具备生物应用价值的材料” 建立完善准入、监控与追踪体系，类似如今社会管控可制作炸药的化肥原料。 他还透露，谷歌正在将旗下 AI 内容溯源水印技术 SynthID 适配生物领域。举例来说，可以帮助合成 DNA 的生物医药企业筛查由 AI 生成、具备潜在危险的生物序列。