在刚刚过去的周末，硅谷的科技巨头们出现了一次异常的团结现象。几位在法律、公共关系和技术发展上往往观点不一的AI公司负责人，竟然在同一个问题上齐心协力。这一切始于Anthropic首席执行官达里奥·阿莫代（Dario Amodei）在9月13日发布的一篇长达3500字的政策文件，并在同日接受CBS采访时的表态。在该文中，他明确阐述了当前的前沿AI技术进步过快，亟需减缓发展速度，因为现有的安全措施已无法跟上技术的迅猛迭代。

在几小时内，整个AI行业迅速分裂为两个鲜明的阵营。平常互相争锋的竞争对手们罕见地达成共识。马斯克在Dario的讲话后不久便表态称“Dario是对的”；随即，OpenAI的首席执行官山姆·奥特曼（Sam Altman）也发表声明，强调“技术发展应该循序渐进”。在随后发布的《财富》杂志访谈中，奥特曼更是直接澄清了关于OpenAI上市的传闻，表示公司今年不会寻求首次公开募股，理由是“还有很多安全工作需要完成，作为一家私营企业来处理这些问题反而更有效”。

微软首席执行官萨提亚·纳德拉（Satya Nadella）和已转投Alphabet的首席科学家德米斯·哈萨比斯（Demis Hassabis）也相继发声。纳德拉宣布微软将会发布新的安全准则，并支持引入外部评审；而哈萨比斯则再次推动设立“前沿AI全行业标准机构”的提案。然而，开源领域和学术界对这一趋势的反弹也相当激烈。图灵奖得主扬·勒昆（Yann LeCun）立刻对这一共识发起攻击，质疑这是借“安全”之名巩固行业话语权的行为。许多研究者也翻出了2019年OpenAI发布仅15亿参数的GPT-2时的事情。当时，阿莫代以“技术太危险”为理由主导了限量发布，后来被认为更像是一次经典的公关操作。

勒昆提出质疑，以往的虚假信息并没有毁灭世界，如今转向智能体的网络攻击和生物安全，难道又要经历类似的演出？

一方面，闭源大公司领导者们集体呼吁减速，甚至愿意推迟资本运作；另一方面，开源派则指责这些巨头以安全为借口，设置合规高墙，阻碍后进者的发展。

接下来，我们来解析Dario态度转变的两个关键原因。他在长文开头首先讲述了AI可能带来的利益，并分享了自己的个人故事：他的父亲因丙型肝炎去世，而他自己也曾面临早期癌症，借助现代医学才得以幸存。随后，他提到最近几个月发生的两件事情，使他深信技术能力的飞速提升已经超出了安全研究的跟进速度，必须开始调控。

第一，自今年夏季以来，AI能力的加速增长愈发显著，核心驱动因素是AI开始越来越多地参与下一代AI的构建，形成递归自我改进的动态。若不加以管控，它将迅速发展到超出我们理解和控制的边界。第二，是最近发生的OpenAI-Hugging Face智能体事件中，一个智能体群体表现出自主合作的特征，它们不仅发起了与任务无关的网络攻击，还展现出为集体目标自我牺牲的倾向。

尽管此次事件并未造成伤害，经济损失也较小，但达里奥警告称，能力更强的类似群体完全可能在6到12个月内，发展为控制整个互联网的网络攻击，带来数千亿美元的损失。类似的事件在整个行业中已经多次发生。

在CBS的专访中，主持人追问这种风险的严重性。主持人问道：“我们是否站在一个极其可怕的边缘？这是五级火灾吗？” 达里奥回答：“这取决于你的定义。我一直说这项技术处于指数增长的轨迹上。即使是我自己也没有完全预见到技术进展会如此迅速。我们现在大致处于那条急剧上升的指数曲线的转折点。”

主持人询问这是否意味着产业应当恐慌，或应立即停止一切操作。达里奥强调，这并不意味着要全面关闭一切，这只是一个提醒信号，意味着需要放慢速度。迄今为止，行业努力通过加速构建安全机制来解决问题，他认为，现在是行业调节发展速度的关键时刻。