安民：美国AI圈开展的道德围剿

lameihua

　　前几天Anthropic的CEO达里奥·阿莫代伊发了篇长文，题目叫《我们必须控制前沿AI的发展步调》。核心思想是全球AI公司都该踩刹车，放慢提升模型能力的速度，此外还要提升对AI的监管力度。AI圈的大佬们平时爱互相拆台，但这次对于文章和其中的观点，口径倒是很一致，OpenAI的奥特曼和马斯克先后赞同。

　　这事干得就像猎人喊封山，赌徒叫警察。

　　他的主张是这样的，AI的递归式自我改进可能使能力超越人类控制风险的速度。为此，他建议协调各国前沿AI企业共同制定安全标准；引入独立第三方评估机构监督安全措施和事故报告；加强国际协调以限制发展速度。当然，限制中国算力发展也提到了，但都是老生常谈，没什么新鲜的。今天先讲这个所谓的“第三方监督”。

　　阿莫代伊是个以意识形态斗争为纲的人，在这篇3800字的文章中，中国出现了14次。他的所谓“协调各国前沿AI企业共同制定安全标准”，是明文表示要划分阵营的，一边是美西方，一边就是中国。但是美西方阵营，除了美国还有其他的“前沿AI企业”吗？没有了，所以他的意思就是要让美西方从道德出发，自上而下和中国AI划清界线。

　　所以你看，阿莫代伊说是企业家科学家，但也是个政客，都喜欢设立一个人厌狗嫌的道德制高点，站上去就自顾自地喋喋不休。也只是因为他不是个有实权的政客，不然他的这番发言有可能会被当成AI时代的铁幕演说。

　　作为这套阵营说辞的延伸，阿莫代伊进一步提出，希望设立第三方核查机构，核查人员驻场，长期嵌入前沿AI公司。他们的系统访问权限大体等同于内部风险评估团队，拥有接近内部风控团队的权限，能看模型权重、训练数据管线、真实风险评估文件。

　　意思是说，他希望美西方国家的先进AI公司，准确地说，就是美国的先进AI公司，未来可以接受一批第三方监督员进入。这些监督员有高权限，可以随时评估审查模型在自主复制、生物化学、网络攻击等危险能力上的威胁，关键在于随时，而不仅仅审查一个最终成品。

　　又是“第三方”。脑子正常的人都知道美国拟定的第三方没有意义，那都是他们自己的安排。比如Anthropic的某员工离职后入职了阿莫代伊点名表扬的第三方监督机构METR，Anthropic明确表示未来愿意接受METR的监督。所以说，这个第三方的独立性体现在哪儿？

　　中国显然不会接受这种虚伪的监督，而且我坚信阿莫代伊就没指望中国会接受，自始至终，他的倡议只会在美西方内部玩。所以这是美国AI公司的自律善举吗？

　　肯定不是的。这仍然是一场道德围剿。AI企业只有接受美方指定的第三方，才算是有道德的AI企业，至于这些所谓的第三方里面有多少美方企业安插的前员工，你别管，你必须接受。如果不接受，那你就是没有道德的AI企业，那么美国就可以号召美西方阵营内部抵制中国AI。如果有美西方企业嫌美国AI贵，转用中国AI，那就是不识大体，唯利是图。

　　所以这不过是排除异己的手段罢了，排除更有性价比的竞争对手。

　　长期以来，大家的刻板印象是美国的AI贵，中国的AI便宜，所以大家都爱用中国的AI。这个说法对，又不对。

　　中国的便宜，指的是词元价格，但对于高复杂度的任务而言，成本是综合考量的。同一个复杂任务，强性能模型可能一次解决，并且很高效，不用消耗太多词元。而性能弱一些的，可能解决不了，或者返工多次才行，并且解决问题时会浪费很多词元。在这方面，美国的闭源模型总体上性能更强，所以我们看到一些AI的重度使用者说ChatGPT等美国模型的性价比更高，也不算是瞎说。

　　但现在的情形是，美国前沿模型在最尖端的高价值任务中作用最大，但常规任务用中国开源模型就够了。这个世界是常规任务多，还是尖端任务多？所以中国模型的存在打乱了美国模型大小通吃的算盘。更何况中美模型的差距也就半年左右，并且还在缩小。

　　我们代入一下美国公司，肯定是很能理解它们的，它们是真希望中国AI死，如果死不了，至少得找茬限制美西方国家使用中国AI。这次的阿莫代伊的发文，虽然只是从道德和安全角度出发，不会有什么实质性限制，但这是一次道德围剿，如果形成共识，就是未来某次美国AI管制的借口。