夏斐君：最近，美国AI巨头向一个中国人求助

lameihua

　　看到一个挺有意思的消息。

　　据澎湃新闻等媒体报道，美国头部AI公司Anthropic最近引进了一个专门研究王阳明的哲学教授。

　　这个教授叫哈维·莱德曼（Harvey Lederman），德克萨斯大学奥斯汀分校哲学教授，纽约大学访问教授，长期深入研究王阳明“知行合一”思想，是海外王阳明研究领域的知名人物。

　　看了这个消息，是不是油然而生一种自豪感，觉得王阳明很牛逼，连带觉得Anthropic也很牛逼？

　　王阳明当然牛逼，但是Anthropic招哲学家这事没那么牛逼。

　　Anthropic也不是第一次招哲学家了，之前也招过两个，分别领导“个性与价值观对齐团队”和“人工智能风险与道德哲学研究”。

　　新加入的研究王阳明的哈维？莱德曼，来干啥呢？来指导Anthropic的AI对齐。所谓AI对齐，简单来说，就是确保人工智能系统的目标和行为，与人类的价值观、意图以及利益保持一致。

　　为什么要AI对齐呢？

　　因为大模型经常表现出说一套做一套，你让他背诵道德准则，它倒背如流，但在面对特定的恶意诱导或实际压力时，AI又会做出欺骗或有害的行。AI对齐就是要教化AI，AI的认知和行为要一致。

　　王阳明的“知行合一”，因此看起来就非常契合这个AI对齐。

　　假如这个哲学教授，真的能把王阳明的这一套理念，成功引入Anthropic，让它先进的Claude模型成为一个有道德、讲道德的大模型，那就真得很伟大，很了不起。（我就很讨厌某包的谄媚和前后不一，像个墙头草和无原则的小人）

　　但我个人认为可能性很小，为什么？资本的本性决定的。

　　资本的本性就是要增值，要利润最大化、剩余价值最大化，而且要短期内价值最大化。

　　Anthropic尽管大模型技术挺厉害，但它是一家依赖持续融资、需要向投资人交出回报的公司。

　　当“严格的伦理要求、AI对齐”和企业商业利益、营收增长目标，发生冲突时，前者是一定要让步的。

　　安全、道德、伦理等约束，会影响大模型的性能，提高算力成本，削弱产品竞争力，企业很难长期支持不盈利的伦理道德建设。

　　这是非常现实的利益矛盾，也是当下全球AI领域普遍的无解的问题。

　　Anthropic公司之前招的哲学家，也搞了什么AI宪法和伦理准则，后来都成了摆设和装点。就是因为以上原因。

　　这次也不例外。大概率Claude大模型满口仁义道德，然后写出恶意代码，知行合一个毛线。

　　说到底，哲学家对于AI科技公司的作用和价值，都非常有限，只能对于模型训练做一些方向指引，而且仅限于训练文本上，技术上的指导基本可以忽略不计。

　　Anthropic到目前为止，大模型做得厉害，和哲学家也一毛钱关系都没有，就是靠技术拼出来了，然后有点余力和闲钱，所以请哲学家来搞一搞。

　　话说回来，研究王阳明又怎样呢？

　　我们众所周知的一位，特别崇拜王阳明，几乎天天在日记里向王阳明表达崇敬之情，鞭策自己向王阳明看齐，甚至晚年把自己的居所都起名阳明山庄。他号称学王阳明学得很深，最后还是站在人民的对立面，丢掉了江山，跑到对面小岛上去了。

　　同理，Anthropic在科技界倒行逆施，招再多哲学家有啥用呢？

　　游说国会和白宫，要求封杀开源模型，这种事情都做得出来，还扯什么AI对齐，自己为商做人的基本道德都没有，这算知行合一吗？

　　招这么多哲学家也掩盖不了Anthropic这个公司道德水平低下的事实。

　　个人认为这次引进哲学家，更多是个噱头，讲个好听的故事，维持个重视道德伦理的AI公司形象，吸引更多投资者，它今年10月份要上市。

　　公司创始人和团队道德水准的低下，叠加资本的贪婪本性，注定了Anthropic是一家邪恶的无底线的公司。

　　对了，Anthropic还非常反华，是美国最政治化、深度卷入地缘博弈的科技企业之一。