孙立平：为什么异类比邪恶更危险？

lameihua

　　“人工智能的关键问题不在于它是邪恶的。关键问题在于它是异类的。”

　　这是以色列历史学家、《人类简史》作者尤瓦尔·赫拉利在2025年多次公开演讲中反复强调的核心观点。在他看来，我们通常所说的“人工智能”是一个严重的误称，它让我们误以为这是一种人类智能的延伸。事实上，我们正在创造的是一种与人类截然不同、甚至完全陌生的智能形式——他主张称之为“异类智能”。

　　什么是“异类智能”？——从工具到智能体的根本转变

　　要理解“异类智能”这个概念，首先需要厘清一个根本性的问题：人们通常说的人工智能究竟是什么意思？

　　赫拉利在中国发展高层论坛2025年年会上，用一个简单的例子阐明了这一点。他说，一台咖啡机，如果你按下按钮，它按照预设程序自动制作一杯意式浓缩咖啡——这不是人工智能。因为这台机器既不会学习，也不会创造任何新事物。

　　但假设另一种场景：当你靠近咖啡机时，甚至无需按下任何按钮，它便说道：“我已监测您数周。根据对您的了解以及您当前的表情，我预测您想要一杯双份意式浓缩咖啡加一勺糖。”，如果第二天这台机器又说道：“我发明了一种名为‘Best Espresso’的新饮品，我认为您会喜欢它胜过普通浓缩咖啡。请尝一尝，我已为您制作了一杯。”

　　这才是真正的人工智能。

　　赫拉利解释道：“AI并不是我们手里的工具，AI是一个智能体。要成为一个真正的AI，仅仅让机器自动化还不够，它还必须有能力去自己学习、自己改变、自己做出决定，而且还要发明新的想法。”

　　正是基于这种“主体性”和“自主性”，赫拉利提出了“异类智能”的概念。他强调：“从主体性的角度而言，它其实是一个异质的、非有机的智能体。它的智能不是人类的智能，甚至不是有机体的智能，它能够做决策、创造想法，而这些想法和决策可能不是人类所能想到的。”

　　异类的本质：智能与意识的分离

　　为什么称其为“异类”？因为这种智能形式与人类有着本质的区别。传统的图灵测试是问："机器能像人一样思考吗？"但赫拉利提出了一个更可怕的反向测试："人类能识破一个由机器生成的、旨在操控他的故事吗？"

　　人类智能的特点是，与意识、情感、主观体验密不可分。我们解决问题的方式建立在数万年生物演化的基础上，我们的决策伴随着喜怒哀乐，我们的道德伦理根植于共情能力。但AI完全不同——它可以在完全没有意识的情况下展现出超高的智能。

　　没有意识的智能？这就是人类智能与所谓人工智能的真正区别。

　　赫拉利在东京庆应义塾大学的讲座中说道：“很多人问，人工智能何时能达到人类智能的水平？答案是，永远不会。因为它和我们完全不同，这就像问飞机何时能达到鸟类的飞行水平一样？永远不会。飞机和鸟类根本不一样，它们的飞行方式不同。所以人工智能会超越人类智能，但它本质上是异类的，因此很难预测它将如何发展以及会带来什么后果。”

　　这种“异类性”最震撼的展示，或许就是2016年AlphaGo击败围棋冠军李世石的事件。赫拉利多次引用这个案例：AlphaGo不仅赢了，更令人震撼的是，它下出了人类2500年围棋史上从未出现过的棋路。它在几天之内就发现了人类从未探索过的策略。我想，赫拉利说的意思是，人工智能在围棋上所展现的智慧，并不是像人类那样依靠经验和思维形成的。

　　赫拉利警告说，如果AI能发明新的游戏策略，那么当它开始设计军事战略、金融政策、新的意识形态甚至宗教时，其逻辑可能完全超出人类理解的范畴，成为“失控的黑箱”。我们正亲手创造一种可能比外星人更陌生的存在。

　　为什么“异类”比“邪恶”更危险？

　　赫拉利反复强调一个关键点是：AI的危险不在于它会产生“恨意”，而在于它的绝对冷漠和绝对陌生。

　　赫拉利说，“人工智能的关键问题不在于它是邪恶的。它不是邪恶的。关键的问题在于它是异类的。” 这句话非常值得深思。邪恶至少是人类可以理解的概念——我们知道贪婪、仇恨、权力欲如何运作，我们知道如何防范邪恶。

　　但面对一种完全异类的智能，我们甚至连防范的框架都没有，甚至我们对它的基本理解都没有。

　　赫拉利用一个生动的比喻来说明这种威胁：“人工智能不是某个地方的一台大型计算机，它将会是——把它想象成席卷整个世界的移民浪潮。现在所有这些民粹主义政党都非常害怕移民：移民会来，移民会抢走我们的工作，移民对如何管理社会有截然不同的想法，他们会占领我们的国家，他们会改变我们的文化”。

　　“人工智能是一波数百万外来智能的浪潮，他们会抢走人们的工作，他们对如何管理社会有截然不同的想法，他们可能会接管国家。这应该更让人们感到害怕。”

　　对人类文明“操作系统”的异类入侵

　　什么叫入侵人类文明的“操作系统”？赫拉利认为，人类之所以能建立复杂的社会，核心能力是“讲故事”——通过语言构建共同相信的虚构故事（如货币、法律、国家），从而实现大规模灵活合作。

　　为什么说讲故事是人类文明的操作系统？我们首先要明确，人类社会是什么？按照赫拉利的说法，社会是一种人类靠讲故事创造出来的主体间现实。在赫拉利看来，现实有三种，一种是客观现实，一种是主观现实，还有一种就是主体间现实。社会就是一种主体间现实。

　　主体间现实不是客观存在，但只要人们共同相信，它就能产生巨大的力量。桃园三结义不就是一种最容易理解的主体间现实吗？有没有这个主体间现实，历史的走向都可能会不同。“讲故事”创造的就是这种“主体间现实”。比如说货币，一张彩色的纸为什么能换大米？不是因为它有客观价值，而是因为我们共同相信“大家都相信它能换东西”这个故事。

　　举凡“公司”、“货币”、“法律”、“国家”、“权利”，这些我们今天赖以生存的概念，本质上都是一种“虚构的故事”，是一种社会操作系统。正是依靠这种社会操作系统，我们可以突破“熟人社会”的极限，在更大的范围进行协同合作。这种“讲故事”的能力，让人类摆脱了生物学的限制。

　　其实，与很多物种相比，人类在生物学上其实并没有什么太大的优势。人类之所以能战胜比我们强壮得多的尼安德特人，建立起遍布全球的庞大网络，从而最终统治了这个地球，靠的就是这种能力。

　　而现在，AI正在掌握这种能力。这体现在，AI已经正在掌握生成内容的能力，它现在已经具有生成经济、政治、文化叙事的能力，从潜力上看，其能够具有创立新宗教、炮制新的意识形态的能力，是完全没有问题的。这种能力终将会超越人类。当非人类的智能开始创造和传播故事时，就意味着AI已经入侵了人类文明赖以运转的“操作系统”。这个威胁才是最根本性的，因为它动摇了人类主权的根基。

　　赫拉利认为，AI创造的故事，将可能重塑人类的欲望和信仰。如果人类失去了"讲故事"的垄断权，未来可能出现这样的场景：人类不再因为相信同一个上帝或同一个国家而团结，而是因为相信同一个AI生成的"神谕"而团结。这个"神谕"不是神给人的启示，而是算法根据大数据计算出的、最能维持系统稳定的"最优解"。

　　到那时，人类虽然还活着，但文明的"灵魂"（即我们共同相信的故事）已经不是我们的了。这种悄无声息的、从文化根源上被替换的危险，正是赫拉利所描绘的终极威胁。

　　对快的追求有可能使我们走火入魔

　　赫拉利之所以将AI视为当前人类面临的最严峻威胁，另一个关键原因在于其发展的速度。

　　赫拉利比较了AI与生物技术的差异，他说：“如果您比较人工智能和生物技术，最明显的一点是人工智能发展的速度要快得多。生物技术也能以戏剧性的方式改变世界，但它需要更长的时间，因为生物学的进程要慢得多。”

　　他举例说明：如果对人类基因组做出改变，需要等待20、30、40年才能看到新的遗传物质对人类行为、人类心理的影响。而在人工智能领域，可能只需要几天。“数字进化的速度比有机进化快数百万倍。”

　　赫拉利在多个场合分享过他与AI行业领导者的对话。他总是问他们一个问题：

　　“你们为什么进展这么快？我们的理解是，这有巨大的积极潜力，但也有风险。让我们放慢一点，给人类社会一些时间。”对方的回答几乎总是相同的：“我们理解巨大风险的存在，甚至可能导致人类灭绝。我们想放慢速度，但我们不能，因为如果我们放慢速度，而我们在其他公司、其他国家的竞争对手不放慢速度，他们就会赢得竞赛。”

　　在2025年外滩大会的演讲中，赫拉利更直接点出了他眼中当前技术发展最危险的倾向——为了竞争而忽视安全。他说，“真正值得担心的不是技术本身，而是为了竞争优势不顾安全边界地部署技术。”他认为，这种为了“抢跑”而不计后果的部署，正是威胁的来源。