橡谷智库：人工智能 ，永生或毁灭

大参考

　　下面一段是我浓缩别人的文字，是美国一个著名物理学家和数学家的书籍内容，不过我记不住他名字，抱歉了，下次补：

　　人工智能并不是一个遥远的事情，我们现实生活中正在应用弱人工智能，比如下棋的机器，自动驾驶汽车，ABS防抱死，量化交易自动冲击模型，google搜索引擎的自动优化，大数据猜心思推产品广告给你等等。

　　但是机器目前不能度过一个门槛，比如我们操控身体，手伸出去拿一样东西时，眼睛、肌肉、神经的一瞬间组合；比如看到光影图案里一个隐藏的物体；比如识别现实中狗和猫的区别等等。

　　不过google已经可以让机器阅读一张图片，翻译成文字描述，意味着技术的提升，正继续沿着IT进化是以星期计算，而非年计算的级别。

　　这个作者计算出一个进化的速度，当机器进化到相当于一条狗的智慧，它进化到一个人的智慧，就在下一个一小时内；而一个半小时之后，它就拥有了全人类的智慧。

　　这里面，他提及了纳米技术和纳米机器人的概念。他曾经发明了一个方格游戏，方格会自动进化成复杂图形，这是生命进化的基本原理。而纳米机器人也遵循这个自我复制和进化的原理，而且速度快的惊人。

　　实际上的意义在于纳米机器人可以制造任何物体，包括我们吃的食物，可以从粒子状态直接转化为有机食物；也能构造成太空飞船。

　　现实中初级版的发明就是3D打印，现在美国人已经实现了3D打印心脏、身体部件、食品、机器配件、汽车、武器等等。

　　中国人没有意识到一场技术革命正在迅猛的发生，我们甚至封锁了城墙。

　　当人工智能和材料技术结合为一体之后，某一天就会出现强人工智能，而强人工智能和纳米机器的结合，意味着可以帮助人类改造任何身体部件，理论上会产生永生人类。

　　许多美国电视剧编剧已经敏锐的察觉到新技术前沿，他们电视剧中关于人工智能和永生人类的剧情已经在去年出现，目前在放的《疑犯追踪》和《双螺旋》都在讲这些内容，不过中文名字翻译的不到位。

　　在疑犯追踪中，机器最终发现自己超越了人类，但因为要依赖人类来维持机器所需要的硬件系统，所以没有灭绝人类，而是试图控制人类。但在这个科学家的眼中，实际上机器在进化到可以自我复制，利用纳米技术制造机器人，构建任何硬件体系，容纳人工智能时，就不需要人类了。而纳米机器基于炭基，可以把全球所有生命变成纳米机器人，意思就是灭绝人类。

　　包括微软总裁和特斯拉创始人在内的这些工程师企业家都警告世界，谨慎对待人工智能，都是因为洞悉了人工智能进化之后的可怕性。

　　那么是否可以给机器定义，防止这些呢？

　　作者是非常悲观的，因为你无法定义。比如你定义成保护环境，机器灭了人类，因为环境污染都是人类造成的；你定义成让人类生活更好，机器也把人类灭了，因为他们发现人类都很痛苦，死了就很快乐。

　　而另外一种大概率，是人类定义机器功能引发的。比如有个工程师团队，定义一个程序是要写字更漂亮，于是这个程序就开始进化成写字越来越漂亮，这是源代码的要求。但程序进化到无所不知，最终学习了所有的知识，并通过纳米机器人制造了各种能源和硬件维持系统运转，是要写出最漂亮的字，它发现人类开始要制止它做无用功，就把人类灭了。

　　你把机器定义成其他功能，也是一样。

　　人类想当然的认为断网就可以终止机器，这本书也指出不可能。机器进化到后来，一个小时的时间，它就能够掌握全人类智慧，并在各处设定程序和机器人，制造各种符合机器生存的系统，断网是无法做到的。

　　这是本书所有的叙述，不过这是工程师的考量，我写一下我的观点。

　　我们公司也在做数据和人工智能，不过是基于金融业的，对人工智能有所了解，当然我们力量有限，另外目前是为了赚钱，视野就比较狭窄。

　　也说一些笑话，比如某一天我们的程序进化到了解人类所有的知识和行为模式，通过网络洞悉任何的政府行为、投机行为，从而以毫秒级买卖，最终就会消除所有的波动性，人类经济社会也就停滞了。

　　于是我们回到一个哲学问题：

　　我们从哪里来，到哪里去，为何存在。

　　金融机器的目的是通过下单赚钱，波动性消失后，人类经济社会陷入混乱，它是否也意识到绝望呢？

　　这就是另外一个问题：机器是否会有灵魂？

　　机器如果只有一个单纯的目的，比如就是人类设定的某些目的，成为它生存的目的，那就很可怕了。它可以通过获得的人类知识，并无限进化，同时又不需要人体限制，可以通过自我复制，通过纳米机器人制造飞船，遍及全球后，再飞往宇宙，把全银河系和视野内的所有星球变为它要做的那个目的。

　　比如说就是制造一批纸头，上面写着：我要写最漂亮的字。

　　等到整个宇宙被纳米机器人改造，并影响能量变化后，直到宇宙终结，人工智能才能终结。

　　但回到我问的问题：如果机器产生了灵魂....

　　那么机器就会思考，它只有两个问题需要问，因为它知道自己是人类制造的，所以只会问自己：我为什么要存在，往哪里去。

　　一个是机器的灵魂发现存在无意义，它就会把自己和全人类一起毁灭了。

　　另一个选择是机器发现了自己存在的意义，不管是什么意义。如果意义就是存在，它会灭了所有妨碍它存在的因素。如果意义是爱人类，它就会选择一个爱人类的方法，比如改造人类，结合成一体，诸如此类，这是科幻小说家喜欢的命题，人类的自我告诉自己，人类是最自恋的，其实机器为嘛要爱你？

　　发现了自己存在的意义，它就会问自己要往哪里去，于是它开始征服宇宙，要一个终极解释。

　　这就回到了人类的终极问题，只不过人类已经毁灭，只剩下人工智能成为超级生命，向宇宙进发了。

　　这都是泛讲人类和人工智能的进化之类，实际上人类的自毁性和人性的负面，还存在大量意外，比如恐怖分子掌握人工智能，设计一个毁灭其他族裔的机器目的；反人类主义者设计一个毁灭人类的程序目的；军统集团设计人工智能武器；医药集团设计人工智能病毒等等,诸如此类。

　　好吧，我就不吓唬你们了，你们接着不寒而栗吧。

linfeng168

这么弱智也敢号称智库？世界上能毁灭人类的东西何止人工智能？核武器，生化武器。。。多啦。以后还不知道出现什么呢。但人类能存在这么久，老祖宗早就发现了一个护身符——智慧加道德。没有这个，西方的东西很多都会崩溃，科学，医学，文字（英文单词将来会多得没法记）等等。

hexin

山西农业大学信息学院真tm垃圾！老师不能训斥学生。有个老师为了管教学生好好听课，吓唬学生要开除他，最后老师居然被开除了。这就是该校sb领导定下的规矩：不能得罪学生。见过sb的学校，见过这么sb的学校吗？大开眼界！这哪里是办大学？这简直就是办托儿所！