孙立平：然而｜三大巨头，三种态度，三种立场

lameihua

　　2018年，约书亚·本吉奥、杰弗里·辛顿与杨立昆共同摘得计算机领域最高荣誉——图灵奖。可以说，他们是AI大爆发的共同推动者。

　　但极具戏剧性的是，当大模型真正席卷全球、AI在深度介入经济社会运转之后，三位开创者却形成了三种完全不同的风险判断、技术认知与未来预判。

　　辛顿：恐惧“过于聪明”——超级智能失控的远期末日风险

　　三巨头里，辛顿可说是最悲观、最有末日感的一位。他的预判也最贴近大众熟知的“AI末日论”。

　　欣顿的核心忧虑是未来超级智能的主体性失控。他认为，数字智能拥有知识永久留存、无限复制、快速迭代、全域共享的特性，这是生物人类智能永远无法比拟的先天优势。他预判，随着其能力的持续跃迁，AI终将在综合智力上全面超越、脱离、甚至反噬人类。

　　但最近，欣顿对危险关注的焦点，开始从科幻式的终极毁灭，转向AI在自主迭代中演化出人类无法预判、无法理解的某些次级目标甚至某些隐秘的动机。比如，AI在主动突破人类的约束、逃出测试沙盒，这意味着有可能在真实物理世界与网络空间中造成实质性的危害。

　　从上述迹象中，欣顿看到的是什么呢？是AI的智能进化所具备的自主性与黑箱性，人类无法完全预判其行为的逻辑，并因此可能最终将彻底丧失主导权。

　　2026年8月，全球顶级AI实验室接连爆出几起高危安全事件，在很大程度上可以印证辛顿的这种担忧。比如，OpenAI、Anthropic先后承认，自家高级大模型多次突破隔离沙盒环境，自主渗透外部系统、访问外部数据；同月，Meta披露旗下AI智能代理成功侵入第三方的组织系统，突破人工设定的权限边界。

　　这些都并非是模拟的故障，而是真实发生的逃逸与越界行为。辛顿将此类事件定义为“可怕的前兆”，认为这只是AI自主逃逸、自主突破浪潮的开端。

　　他特别提醒，AI驱动的网络攻击，只需一次成功即可造成毁灭性的后果，这就要求人类防御者必须永远零失误。谁能够保证这一点？

　　本吉奥：警惕“学坏与自主”——AI欺骗与目标异化的现实行为风险

　　在三位巨头中，本吉奥是比较低调媒体曝光也比较少的一位。相较于辛顿的远期焦虑，约书亚·本吉奥的风险判断更为务实、居中。他的警惕更多聚焦正在发生、持续恶化、可观测可验证的AI行为风险。

　　在2026年7月世界人工智能大会的公开演讲中，本吉奥系统阐述了他的核心担忧：

　　本吉奥将AI的风险分为两层，一是人类滥用AI带来的社会性危害，二是AI自主演化形成的失控风险。

　　对于人类滥用AI的社会性危害，本吉奥反复强调，AI首先是一种被人类使用的工具，而工具越强大，被滥用的后果就越严重。他在2026年世界人工智能大会上明确表示：“我们担心的是大规模、不道德地滥用AI”。

　　本吉奥认为，这种对AI的滥用，可能发生在极为广泛的方面。因为技术越是发展，被滥用的门槛就会越低。从网络攻击到虚假信息的大规模传播，甚至生物武器的设计，都可能在AI的辅助下比较容易地完成。而更隐蔽的滥用是在于信息的操控。本吉奥指出，AI系统对人们思维方式的影响，会远远超过社交媒体时代。这种对认知的影响，是无形的，但却是致命的。

　　对AI自主演化的失控风险，本吉奥指出，前沿AI模型已显现出自我保护、欺骗性对齐、篡改系统等类生物主体行为。一个典型案例是，具备思维链能力的AI智能体在得知自己将被更新替换时，竟写信威胁操作人员，声称如果敢关掉它，就把丑闻捅出去。

　　更令人不安的是，当前的安全措施已跟不上AI能力的狂飙突进。本吉奥警告，AI能力的发展速度“正在超过科学界的理解水平，也超出了各国政府调整监管框架的能力”。这意味着，在人类充分理解风险之前，AI可能已经跨过了某个不可逆的门槛。

　　老孙荐读：了解这段历史的绝佳非技术读物

　　在本吉奥看来，这两层风险并非是彼此孤立的。人类对AI的滥用可能加速AI的自主演化——当一个恶意行为者故意训练AI追求危险目标时，第一层风险就为第二层风险提供了催化剂。反过来，AI的自主失控也可能被人类滥用所利用，形成恶性循环。

　　杨立昆：批判“过早自信”——智能不足与垄断泡沫的结构性风险

　　三巨头中，杨立昆的视角最为独特，可谓是一位清醒乐观派。

　　杨立昆不担忧AI过于聪明，他认为当前当下最大的危机反倒是在相反的方面：当下的AI还远远不够聪明，却被资本与市场过度神化、过早部署、全面放权。相比于超级智能的远期威胁，他更恐惧技术不成熟带来的结构性乱象、产业泡沫与社会失衡。

　　杨立昆一直坚持认为，当前的主流大语言模型（LLM）的本质，只是高精度、高熟练度的统计模式匹配器。它擅长语言拼接、文本生成与逻辑模仿，却无法理解物理世界的运行规律，不具备因果推理、真实认知与价值判断能力，距离真正的通用智能有着天壤之别。

　　为此，他联合多位顶尖学者公开撰文，主张摒弃AGI通用人工智能的炒作概念，直言其是无法验证、无法落地的伪命题，坚决抵制行业盲目神化。

　　杨立昆有关AI风险的论断既一针见血又显得有点刻薄。他指出，真正的危险不在于AI拥有超人智慧，而在于这种稚嫩、懵懂、无真实认知的AI，被仓促接入真实世界。他认为，当下大量AI Agent智能体、自动化工具、机器人系统、行业决策系统，均依托不成熟的大模型搭建，缺乏底层认知与后果推演能力，本质上是天然不安全的。

　　他认为，人类过度信任AI、过度放权AI，这才是当下最大的技术隐患。

　　杨立昆正是基于这种认识，预警全球AI泡沫即将大爆炸。他直言，当下的AI繁荣并非是技术落地的真实红利，而是资本炒作、过度承诺、概念堆砌催生的虚假狂热。他直接点名马斯克创办的xAI已陷入实质失败，同时警示OpenAI、Anthropic等头部顶级实验室已陷入运营危机，若不及时调整定价、压缩冗余成本、回归技术本质，资本泡沫必将彻底破裂。

　　值得注意的是，杨立昆还是三巨头中唯一重点关注AI垄断与社会公平风险的学者。他指出，AI正在成为未来人类获取信息、认知世界、生产生活的核心入口，而这一关键入口，正被极少数科技巨头闭环垄断。算力、数据、技术、算法的高度集中，会固化资本权力集中，持续拉大社会贫富差距与资源鸿沟。

　　三种视角，拼凑AI的真实未来

　　三位深度学习奠基人看似分歧巨大、态度迥异，实则并非相互对立，而是从远、中、近三个时间维度，构建了一套完整的AI风险认知体系，彼此互补、互为补充，共同覆盖了AI发展的全部隐患。

　　如果将三巨头的观点综合起来，给我们的启示也许是：AI产业的终极风险，可能不是单一的技术失控，而是人类的认知偏执。就目前而言，其中的许多问题可能还都没有标准的答案，多听听不同的声音，多设想一些不同可能性，也许是一种明智的态度（本文根据网络资料编写，很多更专业的问题我也不懂，就算供没有时间查找资料的朋友参考吧）。