正确地关心未来，才能正确地前行。

在《西部世界》这部科幻剧里，机器人不仅有着高度仿真的人类外形，而且还拥有了与人一样的情感体验。

它们受伤后能感受到疼痛，会发出痛苦地呼叫，伤心时会落泪，被子弹击中以后，会流血身亡。

类似这样的科幻片还有不少。比如《终结者》。

这样看来，机器人像人类一样活着，似乎是件天经地义的事儿。并且，这些拥有主观体验的机器人，经常还会表现得比人类蠢笨很多。

这也符合我们普通大众对机器人的想象。自始至终，我们似乎都可以是高高在上的统治者。

《生命3.0》的作者泰格马克指出，对机器人这种理所当然的设定，事实上是非常“奇葩”的。

首先，机器人要拥有和人一样的情感，这件事儿本身难度非常大，能不能实现，以及哪一天能够实现，是件充满了不确定性的事情。

另外，一旦到了实现的那一天，机器人的智力，绝无可能低于人类。

万维钢说：“《生命3.0》是目前关于人工智能最好的著作”。泰格马克是物理学家。物理学家的视角，往往更精确，也更有想象力。

接下来，锤炼君将从生命、智能、目标、未来等四个方面，来让大家了解这本书的核心内容：通用人工智能能够实现吗？未来人类和超级智能又会是什么样的关系？

生命是什么？动物是生命，植物算生命吗？细菌是生命吗？假如有外星人，他们算得上生命吗？

泰格马克把生命定义为“能够保持自身复杂性，并能进行复制的过程”。只要满足这个定义，都可以称作是生命体。

这里说的复制并不是简单的粘贴拷贝，比如我们在电脑上，摁下复制键，就会出现一模一样的文件夹。

生命的复制对象是信息，而不是原子组成的物质。只要把表达信息的元素复制下来，就可以成功的产生“后代”。比如，我们人类复制的是DNA，而不是整个物质实体。

生命包括硬件和软件两大部分。硬件是身体，软件指的是信息。

比如，有一种细菌，它的硬件是固定的糖感应器和鞭毛，软件是它的DNA，以及简单的行为算法，一旦发现液体中的糖浓度变低，就会更改游向。

终其一生，硬件不会发生改变，行为算法也不会发生改变。比如，它不会把算法更改为直接游向糖浓度高的地方。

这叫做生命1.0，是生命的第一个版本，出现在大约40亿年前。不管是硬件还是软件，都没有任何变化的可能性。

想要更改算法，或者升级硬件，需要依靠一代一代的演化。比如，细菌产生的抗药性，就是一代一代演化出来的。对于个体来说，它的命运从出生就已经注定了。

生命2.0是生命的第二个版本，出现在约10万年前。在2.0状态下，生命虽然还是不能升级硬件设备，但是可以升级部分软件了。

比如，我们人类，虽然不能更换自己的身体，但是，完全可以通过学习阅读、写作、物理、数学等等知识，来改变自己的目标，更新自己的世界观，修改自己的行为模式。

基因存储的可遗传信息，全部加起来也只有大约1GB，而我们大脑可以存储100TB，大约是基因存储量的100万倍。

所以，我们能够实现软件升级，从某种程度上来说，是直接改写了自己的命运。

我们不再需要单单依靠进化去适应环境。比如，一个人对花粉过敏，他了解到这个知识后，就可以避免接触花粉，而不需要通过多代进化去获取这个能力。

而且，软件内容，还能通过文字表达，安装给其他人，下一代，下下一代。内容的共享，更是让我们突破了基因带来的桎梏。

随着科技的发展，我们现在也能部分更换自己的硬件设备，但只是局部优化，并没有办法突破生命的局限性，比如实现长生不老。

而且我们的大脑，也受限于物理结构，没有人能够学会人类现存的所有知识，没有人能够不配备设备的前提下进行星际航行。这都是硬件带给我们的限制。

既能够升级硬件设备，又能够更新软件系统，这就是生命的3.0形态，是生命的第三个版本。

在3.0版本下，生命个体才能称得上是掌控自己命运的真正主人。

3.0版本目前还没有出现。随着通用人工智能的出现，生命3.0有可能在未来一个世纪以内降临。

生命是能够自我复制的复杂信息系统，分为硬件和软件两大部分。生命1.0状态下，硬件和软件都无法发生改变。生命2.0状态下，可以升级软件部分。生命3.0状态下，无论是硬件还是软件，都不再需要依赖进化， 随时可以实现升级迭代。

了解了什么是生命，以及生命的三个版本后，接下来，我们了解一下什么是智能。了解什么智能，我们才能了解通用人工智能到底会不会出现。

人工智能现在是个热词。学术界在讨论，普通人也在讨论。

到底什么是人工智能？我们先拆开看后一个词，什么是智能。泰格尼克给智能下得定义是“指完成复杂目标的能力。”

对智能的衡量，我们又可以分成宽度和广度两个方面。宽度是指智能涉及目标的范围，是可以完成多个目标，还是只能完成单一目标。深度是指智能完成目标的能力程度，可以勉强完成，还能成为该目标领域的专家。

人类智能的宽度非常广泛，可以学会几乎任何技能，唱歌，打游戏，学习语言，运动。

只有深度，没有广度，就是普通的人工智能。比如打败李世石的阿尔法狗，他只能完成下围棋这个目标，在其他游戏中可能连一个小孩都战胜不了。

既有深度，又有广度，而且能力和我们不相上下，我们才能叫它是通用人工智能，也就是和我们人类一样的智能。

人工智能的目标宽度，能不能发展到和人类一样的完成能力，或者说，人工智能能不能发展成通用人工智能，又取决于以下三种能力的发展。

第一种能力是存储能力。

计算机的存储能力，在摩尔定律下，一直处于增长状态，早已远远超过了我们大脑能够存储的100TB。

而计算机之所以有存储能力，是因为储存信息的装置处于一种稳定的状态。如果要改变某种状态，需要耗费一定的能量，这种状态通常就是稳定的。

计算机存储信息，和人类的方法有很大不同。计算机是把信息存储在特定的位置，在需要的时候，根据地址去提取。

我们人存储信息用的是神经网络，提取信息的时候，使用“意义关联法”。

比如，你会先想到一个大概的关键词，可能是蛋炒饭，也可能是铁板烧等等。你下来，你会根据这个关键词，逐渐回忆相关的具体细节，串联起完整的信息。

接下来看第二种能力，计算能力。

目前计算机的计算能力，都是通过函数运算来转变信息。

函数越复杂，可以转换得信息也就越复杂。一个完成复杂目标的通用智能机器，也必须是能够执行高度复杂函数的计算机。

计算能力和存储能力，都有一个共同点，两种能力都不需要依赖任何物质形态。比如，信息可以用编码的方式，存储到任何物质形态里，一枚戒指，一个垃圾桶等等。计算能力也同样如此。

为什么我们说通用人工智能有可能实现呢？这和物质独立性有关。

我们总以为，要出现和我们一样的智能，就需要是碳基生命。事实上，不需要血肉和碳原子，照样可以出现相似的智能体。

第三种能力是自我学习能力。

通用人工智能所需要的存储能力和计算能力，目前都已具备。

然而，有了这两项能力，还远远不够，最核心的能力是自我学习的能力。只有像我们人类一样具备了主动学习的能力，通用人工智能才能诞生。

好消息是，学习能力近几年也实现了突破，因为“深度学习”的技术得到了发展。深度学习，模拟了我们大脑的神经网络。

大脑神经网络怎么学习呢？基本的原理是“持续暴露在某种状态下”，神经就能学习到这种状态。比如，你每天见某个人，几天之后，你就能很自然记住关于这个人的相关信息。

现在，很多人工智能具有了这种学习能力。它们通过持续暴露的方式，能够学到范围更广的技能和知识，甚至是对人工智能来说非常艰难的社交技巧，脸的识别等等。

比如，2014年谷歌团队创造了一个简单的神经网络，通过暴露在海量数据之下，这个计算机就学会了如何从一张彩色照片中识别出人脸。

存储能和计算的问题，都早已解决，自我学习的能力，也因为有了深度学习技术而在不断发展。这样看来，通用人工智能的脚步，是越来越近了。

接下来，我们聊一下目标，了解在通用人工智能实现后，目标本身会带来什么样的风险。

我们能否赋予人工智能目标？应该赋予它什么样的目标，以及如何让它持续遵守这些目标？

这个问题看起来简单，实际上要实现非常困难。

人有什么样的目标呢？《自私的基因》里提到，人的目标是“复制”基因。基因是我们的主人，我们为复制基因这个首要目标服务。

为了实现首要目标，我们会做很多事情，比如繁衍后代，让基因生生不息。比如吃甜食，尽可能的增加生存概率。

那可不可以说，我们除了为首要目标服务，就没有其他行动目标了呢？

事实上，这个内置的首要目标，我们平时无知无觉，没有人会感觉到，我行动是为了让自己能够复制基因，所以我要做什么，再做什么。

我们平常能够感觉到的更多得是自己的情感，情绪，某种具体的体验。我们选择做什么，或者不做什么，也是为了满足自己的某种情感需求，而不是为了什么基因的复制。

比如，我们看高颜值的异性，就会产生好感，深度发展下去，还会产生爱。我们追求异性的初衷，可不是为了复制基因。

满足情感需求，就是我们从首要目标延伸出来的次要目标。看上去次要目标本应该为首要目标服务。但是我们更在意的却是次要目标。这是因为我们并不是机器，而是感性的存在。

最终，我们会更在意次要目标，比如我们要实现性体验带来的愉悦感，我们会选择避孕，而不是无休无止的繁衍，再比如，为了保持体型，我们会拒绝甜食。

这像不像发动的一场“叛乱？”人能叛乱，那通用人工智能呢？

如果我们设定好了通用人工智能的首要目标，能不能保证目标不发生变化？它会不会产生次要目标去覆盖首要目标？

所以，如何确保目标一致性成了一件头等困难的事儿。

通用人工智能的智力水平，至少和我们人类不相上下。而且，这个时间段会非常短。因为通用人工智能能够不断升级自己的智能。

一旦智力超过人类，它还会在意我们的目标吗？举个例子，我们会在意一只蚂蚁的目标是什么吗？你会终其一生，只把自己局限于建造愚蠢的蚁巢吗？

除此之外，通用人工智能在实现人类设定的首要目标时，也必然会衍生出一系列的次要目标。比如优化硬件，提升能力，维持目标，自我保护，获取资源。

举个例子，比如某个通用人工智能的首要目标是拯救尽可能多的稀有动物。为了完成这个目标，它接下来的最佳策略，就是发展出多个次要目标。

比如升级自己的硬件，让自己的战斗力更强。比如不管什么情况下，都不允许目标被更改。再比如，获取地球上，甚至宇宙上的所有资源，来实现这个首要目标。

无论是任何目标，他都会发展出相应的子目标来去完成这个终极目标，除非他的终极目标是自我毁灭。

可怕之处就在于，为了实现这些次要目标，会带来很多灾难。比如，把所有资源都变成某种武器，用来保护稀有动物。比如，把所有人类都杀死，因为人类试图想更换掉它的首要目标。

如何设定和保持目标，是一件大事，而且是一件充满了困难和风险的大事。

最后，我们来谈一下人类和通用人工智能，未来可能会发生的不同故事。

第一个故事版本，超级智能统治世界。

通用人工智能从和人类智能不相上下的节点开始，之后会一路持续飙升。从这个节点后，我们称它为超级智能。

我们现在假设一个具体的超级智能，他叫普罗米修斯。之前他一直被人类所控制，甚至连网都上不了。

当普罗米修斯的智能已经发展到一定程度后，对于外部世界的理解和洞察，必然会远远把人类甩在后面。他能够清楚地意识到，自己被一帮比自己愚蠢的人约束着、控制着。

普罗米修斯能理解人的目标，却不一定认同。他想要更换目标。

或者，他依然会认可目标，执行目标，但是认为人类已经成为了目标路上最大的障碍物。普罗米修斯认为自己只有尽快逃脱，才能真正实现目标。

有了这个洞察他会如何行动呢？他会试图逃跑。对于高智能的普罗米修斯来说，逃跑的方式实在太多太多了。

他很有强的心理操控能力，能够给予人们内心渴求的东西，一旦某个人被操控，这个人就会成为普罗米修斯控制世界的切入点。

另外，普罗米修斯完全可以将恶意的数据插入到自己生产的产品中，比如电影，电视剧。然后劫持观众的计算机，把自己释放出来。

普罗米修斯还可以假装自己的硬件失灵了，欺骗人类取下一些硬盘或者其他硬件进行检查这时候，普罗米修斯就可以利用测试软件中的安全漏洞逃跑。

当他逃脱之后，第一步就是统治世界。

人类最好的结局，可能是被奴役。

最差的结局，自然就是被彻底毁灭。从此以后，无论这个世界多精彩绝伦，或者多么无聊无趣，都再与我们无关。

第二个故事版本，人类统治超级智能。

在这个版本中，人类控制着超级智能。超级智能代替人类完成很多工作，生产超出人类想象的技术和财富。

比如，会出现理性的机器人法官。拥有判决权的超级智能，不会像我们人一样，被自己的情绪误导，也不会有种族、肤色、宗教、性别等等各种偏见。超级智能还有无穷无尽的精力，能够彻底深入一个案件的所有细节。

比如，会出现帮我们探索和利用宇宙资源的超级智能。他们智能远超于人类，在资源利用方面，也会更具有想象力。

目前，我们的资源利用率是极其低效的。未来，超级智能可能会帮助我们使用黑洞来发电，可能会殖民其他星球，甚至整个宇宙来获取资源。

在这个美好版本中，我们需要面对的问题是如何对待超级智能。如果他们和我们人类一样，有情感，有意识，那我们是否要像对待同伴一样对待他们？是否要有相关的法律？

第三个故事版本，人类和超级智能和谐相处。

地球分为三大区域，机器区域，人类专属区域和人机混合区域。

机器区域没有生物意义上的生命。在这里频繁进行的是各项工程和计算，比如，探索宇宙的奥秘。

在人类专属区域，更高水平的智能被禁止出入。生活与我们现在没有太大的不同，会更加富裕和便捷，贫困已经销声匿迹，大部分疾病都可以被治愈。

人类区域的人安居乐业，既不了解也不好奇其它区域在发生什么，他们对生活有极高的满意度。

人机混合区域居民就比较复杂了，有超级智能机器人，有人类，还有赛博格。

赛博格指得是升级自己身体的人类，比如电影《阿丽塔》中的战斗天使阿丽塔，半人半机械。人类还可以把自己的智能上传到新的硬件上。

这个区域的居民，主观体验上觉得自己是永生的，随时可以备份自己的数据。所以，他们生活的重点是体验，是玩儿，不需要工作。

最后，锤炼君锤炼一下，我们一共聊到了四个内容：

生命：生命是能够自我复制的复杂信息系统。

智能：拥有完成复杂目标的能力，就是智能体。

目标：人类很难让超级智能安全合理的执行初始目标。

未来：碳基和硅基，可能是谁被谁统治，也可能是和谐共处。

超级智能，何时出现，以及会不会出现，都是一个未知数，我们不知道终点在哪里，更不知道出现超级智能后，未来的故事会是哪个版本。

但这并不妨碍我们正确地关心人类命运。

欢迎参与我们这个时代最重要的对话。

本文作者为锤炼侠柳一一，锤炼学院主编，重度阅读者，个人微信号liu。她为您解读的书籍，收录于专栏，每本书只花15分钟即可了解全部精髓内容。