拓冰网站定制 
「AI之父」又出来发声警告了这一次还拉上了一众行业大佬对最近热门的「RSI」开炮。这是由剑桥大学人工智能科学与政策项目CASP发布的一份由二十多名研究者共同撰写的报告作者包括OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz以及Geoffrey Hinton、Yoshua Bengio和Dawn Song等人。贴心的是这次剑桥的官方发布还配备了中文版AI行业的中国力量重要性不言而喻。他们并没有宣布「智能爆炸」已经发生而是试图回答一个过去显得颇为科幻、如今却逐渐具体的问题当越来越多AI研发工作交给AI技术进步会不会突然开始加速报告列举的数据表明这条循环的第一部分已经出现。Anthropic内部由AI生成并最终获批的代码占比从2025年初的个位数上升到2026年5月的80%以上仅需人类进行高层监督、主要由AI自主完成的研发工作则从今年3月的1%上升到8月的26%。Claude官方数据披露AI已深度参与其自身迭代。图片来自AnthropicOpenAI表示代码Agent已经被用于未来模型的训练、评估和安全工作Google也称几乎所有涉及代码、技术设计和研究构思的工作都在不同程度上使用AI。几年前模型只能可靠完成相当于人类数秒钟的任务。如今最强的模型已经能够独立处理需要专家花费数小时乃至数天的AI研发工作。按照近年的增长趋势外推报告认为到2028年中AI可能有能力承担原本需要人类专家数月完成的研发项目。AI正在接近一个关键的临界点位置现在已经不是模型一代更比一代强这么简单了AI开始深度参与制造那个将要替换自己的模型。递归自我改进几个意思「递归自我改进」到底是什么想象有一家工厂专门生产一种机器但第一台机器造出来以后却没有被送去商店或是用户手上而是留在厂里负责修改生产线。改造后的生产线造出了性能更好的第二台机器第二台又回来继续改造工厂……每循环一次机器变得更强生产机器的速度也变得更快。这大概就是AI领域讨论了数十年的「递归自我改进」recursive self-improvement。最近几家大厂的动作让「RSI」这个词快速出圈。例如Google Research最近发布的RRSI让Agent自动修改自己的harness包括提示词、工具、记忆、控制流程和上下文管理。9月发布的MetaRSI/RSI²让系统从失败中改进「制造模型的机器」使以后产生的模型继承这些改进。随着这些案例的出圈RSI也遭到误解经常被添油加醋地描绘成AI突然觉醒、有意识了读懂自己的代码然后在深夜里不断自我升级。但实际上更可能发生的是既不需要AI拥有意识也不需要某个模型亲手修改自己的参数只需要让进入生产下一代AI的研发流程里。一开始AI在整个流程里扮演的角色只是研究员手里的辅助工具。人类决定研究方向、设计实验再让模型帮助写代码、检索论文和寻找程序错误。它确实提高了效率但整个研发过程仍然由人推动AI本身不会决定下一步该做什么。很快AI开始成为研发流水线的一部分研究员只需要提出一个较高层的目标Agent便能拆解任务、编写代码、运行实验、比较不同方案再将值得继续尝试的方向交给人类确认。到了这一步AI提高的已经不只是某位工程师的工作速度它开始增加一家公司的「有效研究员数量」。同一个人可以同时调度几十甚至几百个Agent让它们沿着不同方向并行试错且推理能力完全承受得住。第三个阶段来到真正的递归。AI参与研发出更强、更便宜的下一代模型新模型随即被放回研发流程开始承担更多任务同时让公司能够运行更多「机器研究员」。研发能力的提高不再是一次性的它会反过来加快下一轮提高。这就来到了前面假设的「机器工厂」真正发生自我改进的是由模型、Agent、算力和人类研究员组成的整套系统。一座可能突然加速的工厂AI研发尤其容易形成这种循环因为它主要发生在数字世界。新芯片完成设计后还要经过制造、运输和数据中心建设反馈周期通常以年计算但一种更高效的训练算法、一套更好的合成数据或者一条经过验证的Agent工作流可以迅速部署到现有系统再投入下一轮研发。报告估算假如AI达到顶尖研究员的能力而运行成本仍然接近今天单是OpenAI目前拥有的推理算力理论上便足以支撑相当于数百万名人类研究员的AI队伍。Sam Altman参观与OpenAI与甲骨文合作开办的数据中心工地。图片来自Oracle这支队伍不需要工位、不需要实验室却以被同时复制、全天运行在大量研究方向上并行试错更重要的是它们工作的目标之一正是让下一批AI研究员变得更聪明、更便宜。在一组相当理想化的假设下报告推算AI技术进步的速度可能在全面实现研发自动化后的约一年半内提高十倍。届时按照今天速度需要一年完成的进步可能只需要五周。Hinton将这种由AI研发自动化带来的突然加速称为「智能爆炸」其中「爆炸」的意思除了数量上的激增强度和完成度也可能会迎来大爆发。这条循环仍然可能被卡住不过报告同时承认目前的证据远远不足以证明这种爆炸必然发生。数百万名AI研究员的估算建立在模型已经达到专家水平、运行成本却没有明显上涨的前提上。更多Agent也未必等于更多发现它们可能重复劳动或者在必须顺序解决的问题前一起停下来。研发下一代模型还需要实验算力、训练数据和持续数月的大型训练任务。即使AI可以在几分钟内提出一万个方案现实中的计算资源也未必允许它逐一验证。到了生物、材料等领域等待实验结果的时间更无法被代码直接压缩。报告引用的研发回报率也来自历史数据而历史上的算法进步与算力增长彼此纠缠很难确认单靠软件改进是否真的足以让循环持续加速。这份报告在担忧的是持续加速本身。「RSI」之所以会出圈也是因为让人看到了加速的具象化。当AI不断参与制造下一代AI新模型再返回研发流程「智能爆炸」或许就在不远处。原文链接Hinton 联合20多位AI 大牛警告“智能爆炸”时代要来了-虎嗅网我的专辑《人工智能生命体 新启点》CSDN平台https://blog.csdn.net/2501_91883294/article/details/147616608?sharetypeblogdetailshareId147616608sharereferAPPsharesource2501_91883294sharefromlink Hinton 联合20多位AI 大牛警告：“智能爆炸”时代要来了
「AI之父」又出来发声警告了这一次还拉上了一众行业大佬对最近热门的「RSI」开炮。这是由剑桥大学人工智能科学与政策项目CASP发布的一份由二十多名研究者共同撰写的报告作者包括OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz以及Geoffrey Hinton、Yoshua Bengio和Dawn Song等人。贴心的是这次剑桥的官方发布还配备了中文版AI行业的中国力量重要性不言而喻。他们并没有宣布「智能爆炸」已经发生而是试图回答一个过去显得颇为科幻、如今却逐渐具体的问题当越来越多AI研发工作交给AI技术进步会不会突然开始加速报告列举的数据表明这条循环的第一部分已经出现。Anthropic内部由AI生成并最终获批的代码占比从2025年初的个位数上升到2026年5月的80%以上仅需人类进行高层监督、主要由AI自主完成的研发工作则从今年3月的1%上升到8月的26%。Claude官方数据披露AI已深度参与其自身迭代。图片来自AnthropicOpenAI表示代码Agent已经被用于未来模型的训练、评估和安全工作Google也称几乎所有涉及代码、技术设计和研究构思的工作都在不同程度上使用AI。几年前模型只能可靠完成相当于人类数秒钟的任务。如今最强的模型已经能够独立处理需要专家花费数小时乃至数天的AI研发工作。按照近年的增长趋势外推报告认为到2028年中AI可能有能力承担原本需要人类专家数月完成的研发项目。AI正在接近一个关键的临界点位置现在已经不是模型一代更比一代强这么简单了AI开始深度参与制造那个将要替换自己的模型。递归自我改进几个意思「递归自我改进」到底是什么想象有一家工厂专门生产一种机器但第一台机器造出来以后却没有被送去商店或是用户手上而是留在厂里负责修改生产线。改造后的生产线造出了性能更好的第二台机器第二台又回来继续改造工厂……每循环一次机器变得更强生产机器的速度也变得更快。这大概就是AI领域讨论了数十年的「递归自我改进」recursive self-improvement。最近几家大厂的动作让「RSI」这个词快速出圈。例如Google Research最近发布的RRSI让Agent自动修改自己的harness包括提示词、工具、记忆、控制流程和上下文管理。9月发布的MetaRSI/RSI²让系统从失败中改进「制造模型的机器」使以后产生的模型继承这些改进。随着这些案例的出圈RSI也遭到误解经常被添油加醋地描绘成AI突然觉醒、有意识了读懂自己的代码然后在深夜里不断自我升级。但实际上更可能发生的是既不需要AI拥有意识也不需要某个模型亲手修改自己的参数只需要让进入生产下一代AI的研发流程里。一开始AI在整个流程里扮演的角色只是研究员手里的辅助工具。人类决定研究方向、设计实验再让模型帮助写代码、检索论文和寻找程序错误。它确实提高了效率但整个研发过程仍然由人推动AI本身不会决定下一步该做什么。很快AI开始成为研发流水线的一部分研究员只需要提出一个较高层的目标Agent便能拆解任务、编写代码、运行实验、比较不同方案再将值得继续尝试的方向交给人类确认。到了这一步AI提高的已经不只是某位工程师的工作速度它开始增加一家公司的「有效研究员数量」。同一个人可以同时调度几十甚至几百个Agent让它们沿着不同方向并行试错且推理能力完全承受得住。第三个阶段来到真正的递归。AI参与研发出更强、更便宜的下一代模型新模型随即被放回研发流程开始承担更多任务同时让公司能够运行更多「机器研究员」。研发能力的提高不再是一次性的它会反过来加快下一轮提高。这就来到了前面假设的「机器工厂」真正发生自我改进的是由模型、Agent、算力和人类研究员组成的整套系统。一座可能突然加速的工厂AI研发尤其容易形成这种循环因为它主要发生在数字世界。新芯片完成设计后还要经过制造、运输和数据中心建设反馈周期通常以年计算但一种更高效的训练算法、一套更好的合成数据或者一条经过验证的Agent工作流可以迅速部署到现有系统再投入下一轮研发。报告估算假如AI达到顶尖研究员的能力而运行成本仍然接近今天单是OpenAI目前拥有的推理算力理论上便足以支撑相当于数百万名人类研究员的AI队伍。Sam Altman参观与OpenAI与甲骨文合作开办的数据中心工地。图片来自Oracle这支队伍不需要工位、不需要实验室却以被同时复制、全天运行在大量研究方向上并行试错更重要的是它们工作的目标之一正是让下一批AI研究员变得更聪明、更便宜。在一组相当理想化的假设下报告推算AI技术进步的速度可能在全面实现研发自动化后的约一年半内提高十倍。届时按照今天速度需要一年完成的进步可能只需要五周。Hinton将这种由AI研发自动化带来的突然加速称为「智能爆炸」其中「爆炸」的意思除了数量上的激增强度和完成度也可能会迎来大爆发。这条循环仍然可能被卡住不过报告同时承认目前的证据远远不足以证明这种爆炸必然发生。数百万名AI研究员的估算建立在模型已经达到专家水平、运行成本却没有明显上涨的前提上。更多Agent也未必等于更多发现它们可能重复劳动或者在必须顺序解决的问题前一起停下来。研发下一代模型还需要实验算力、训练数据和持续数月的大型训练任务。即使AI可以在几分钟内提出一万个方案现实中的计算资源也未必允许它逐一验证。到了生物、材料等领域等待实验结果的时间更无法被代码直接压缩。报告引用的研发回报率也来自历史数据而历史上的算法进步与算力增长彼此纠缠很难确认单靠软件改进是否真的足以让循环持续加速。这份报告在担忧的是持续加速本身。「RSI」之所以会出圈也是因为让人看到了加速的具象化。当AI不断参与制造下一代AI新模型再返回研发流程「智能爆炸」或许就在不远处。原文链接Hinton 联合20多位AI 大牛警告“智能爆炸”时代要来了-虎嗅网我的专辑《人工智能生命体 新启点》CSDN平台https://blog.csdn.net/2501_91883294/article/details/147616608?sharetypeblogdetailshareId147616608sharereferAPPsharesource2501_91883294sharefromlink