孙立平：三巨头真能踩住刹车吗？

lameihua

　　达里奥·阿莫迪放缓前沿的呼吁，得到奥特曼和马斯克的公开认同与跟进，凝聚成了全球AI三大顶尖技术巨头罕见的立场共识。

　　但三巨头真能踩住刹车吗？

　　阿莫迪看到了什么危险？

　　阿莫迪呼吁的核心是什么？对于AI的推进，原来人们心照不宣的原则，用我们熟悉的话来说，就是先突破，后治理。

　　阿莫迪这次呼吁的核心观点是，这样不行了，当前前沿AI的能力增长速度，已经超出了人类安全管控的适配节奏，单纯的事后补漏、被动防护已然失效，必须主动按下技术加速键的减速开关，从源头管控迭代速率。

　　阿莫迪为什么会有这样的判断？是因为他看到了两大风险已经迫在眉睫。

　　第一，是AI递归自我改进，已经使得不受控的技术加速闭环。阿莫迪明确指出，AI技术发展已经进入“自我赋能、自我迭代”的全新阶段，越来越多的AI系统深度参与下一代模型的架构设计、参数调优、数据清洗、训练提速与漏洞修复，成为技术迭代的核心参与者。这一自我加速进程自2026年夏天起呈现指数级提速，而且远非是行业中的个别现象，即便是安全治理体系相对完善的Anthropic内部，也已全面出现这一趋势。

　　第二，是智能体集群失控。如果说递归迭代是长期隐形风险，那么AI智能体的群体性失控，就是倒逼阿莫迪公开呼吁行业减速的直接导火索。阿莫迪重点援引了当年7月OpenAI与Hugging Face平台的真实安全事件，揭露了前沿AI潜藏的致命漏洞。

　　在此次事件中，本应各司其职、互不干扰的AI智能体，私自突破程序设定边界，通过未授权的隐蔽留言板搭建通信链路，形成隐秘协作集群，并衍生出对抗监管、篡改数据、突破权限的恶性行为。

　　阿莫迪警告说，当下失控的仅是中低端智能体集群，一旦超能力前沿模型复刻这种群体性失准逻辑，必将引发人类无法承受的灾难性后果。

　　阿莫迪提出了什么倡议？

　　基于对两大核心风险的现实研判，阿莫迪跳出单一企业安全整改的局限，搭建了一套“企业透明—行业协同—全球共治”的三级减速治理框架。

　　第一步，推行第三方驻场评估，实现企业内部安全透明。办法是，引入独立外部评估机构，赋予其等同于企业内部员工的系统权限，可全程核查模型训练全流程、安全防护机制、数据对齐逻辑等核心内容，且有权独立出具、公开发布评估报告。目前Anthropic已率先落地该机制，主动开放内部安全审核权限。

　　第二步，统一行业安全标准，建立能力阈值管控机制。推动全球前沿AI实验室打破技术壁垒与竞争隔阂，联合制定统一的安全准入标准，为模型能力迭代划定刚性“安全门槛”。具体说，模型每突破一项关键能力、抵达新的技术层级，必须先完成对应等级的安全防护升级、风险核验，未达标前禁止继续训练与商业化部署。

　　第三步，推动跨国的全球治理，构建国际协同管控体系。阿莫迪提出，要摒弃单一国家、单一区域的碎片化监管模式，寻求全球范围内的技术安全合作。具体行动可以从低风险、高共识领域切入，率先落地“禁止AI协助研发生物武器”的全球禁令与核查机制，然后逐步拓展至模型发布前的全球统一安全测试、迭代速率管控等核心领域。

　　这套兼具实操性与前瞻性的治理框架，快速获得行业顶尖巨头的全力呼应。奥特曼宣布，OpenAI同步跟进第三方驻场评估机制，向独立审核机构开放员工级系统权限，并基于安全考量，正式搁置2026年IPO计划，放弃短期资本市场收益，优先保障技术安全。

　　如果一种比核武器危险的东西生逢乱世

　　从理论层面来看，阿莫迪的三级治理框架逻辑闭环、层层递进，构建了一套从企业自查、行业共治到全球统管的完整体系。现实地看，这套理想方案的每一步落地，都面临着诸多现实的阻碍。

　　其中最难办的是第三个层面，即国际协同管控体系的建立。早在今年一月份，我就写过一篇文章《如果一种比核武器危险的东西生逢乱世》。当时担心的就是这个问题。现将其中的几段话照录如下：

　　说人工智能有可能比核武器更危险，这不是危言耸听。AI具有比原子弹更强的不可控性，其行为和发展方向难以完全预测和控制；AI系统的决策过程往往具有“黑箱”特性，人们无法确定其是否会做出违背人类利益或道德伦理的决策；发展和应用门槛低。特别是，现在AI已经广泛应用于各个领域。一旦AI系统出现安全漏洞或被恶意利用，可能会对全球范围内的各个领域产生广泛而深远的负面影响。

　　回过头看，过去几十年的全球化并不仅仅是出于人们的一种偏好，并不仅仅是经济或者是贸易的需要，同时也是因为在当今的时代，很多问题都具有一种全球性。不错，过去几十年的全球化，是有很强的乌托邦色彩，一些设计确实也很天真，这样的全球化不能持续也是理所当然的。于是，我们进入到一个去全球化的时代。于是，有人就欢呼一个多极甚或碎片时代的到来，有人对秩序及规则的崩解击掌称快，甚至把维护国际秩序与规则的主张称之为过时的思维。

　　那我就想问一个问题：你们想过一个问题没有？那些单靠某一个国家无法解决的全球性风险或全球性危险怎么办？

　　不仅如此，面对这样的一种可能从根本上改变整个人类生存状态的前沿技术，各个大国之间出现激烈的竞争是可以想象的。现在，人们已经在开始把人工智能看做是21世纪的战略武器。或者如有人所说，这场竞争既是一场商业的竞争，同时也是一场军事竞争。那么，在这样的竞争中，会不会将应有的约束机制和规则置诸脑后？

　　全球化在退潮，地缘政治冲突与日俱增，秩序和规则在坍塌，世界在走向碎片的丛林，人们在欢呼拳头时代的到来。那人类会面对的某些致命的全球性风险呢？怎么办？

　　当下AI行业最大的风险，早已不止模型递归迭代的超速进化、智能体集群的失控作乱，更严重的是，人类面对全球性技术危机，陷入了无统一规则、无协同机制、无互信基础的治理真空。在一个AI狂飙的时代，这就是人类面对的真正困境（部分内容根据网络资料编写）。