对话刘慈欣：不要陷入温柔安乐窝的陷阱

编者按：本文转自IDG资本，转载请联系原作者。

新年之初，《三体》作者、IDG资本首席畅想官刘慈欣，和天文学博士高爽，以及IDG资本合伙人牛奎光、过以宏、连盟在IDG资本私享会上进行了一番关于科技、人、宇宙的烧脑对谈美好畅想。

大刘认为，人工智能与人的未来存在着被普遍认为是光明和黑暗的两种可能性，但是光明和黑暗应该反过来。恰恰人们认为最光明的可能性，是黑暗的可能性。

“陷入温柔的机器安乐窝陷阱——这是我认为人类现在和未来最应该担忧的事情。”

以下为对话内容节选：

牛奎光： 大刘老师，人类在宇宙中处于什么位置，是宇宙的中心吗？

刘慈欣：首先我是一个写科幻小说的作者，科幻既不是科学，也不是完全的文学，但是科幻小说有自己的思维方式。我用科幻小说的思维方式，把人类在宇宙中位置的两种可能性排列一下。

第一种可能性，人类确实不是宇宙的中心。人类思想家最早认为，人类是宇宙中独一无二的存在，后来随着历史演进，人从最中心的位置变得边缘。从地心说到日心说，这是关键的一步。

哥白尼走出这一步很不容易，以前的地心说对行星预测的相当准，甚至比日心说准。为什么哥白尼要提出日心说？这就是美学在科学的重大作用。以前的地心说不美，其模型让人十分困惑。但是日心说很美，很和谐。

后来我们发现太阳也不是宇宙的中心。直到上世纪初，天文学家脑袋中的整个宇宙还是银河系，后来宇宙急剧扩大，到现在地球边缘得不能再边缘了。

所以人类不是宇宙的中心。

另一种可能性有关外星生命。到现在为止我们没有发现任何外星生命的迹象，按理说肯定有，但是为什么这么长时间我们还没有发现？

有一些学者提出了和传统观点很不一样的想法，很可能整个宇宙中只有地球上有生命，至少只有地球上有智慧生命。

第一个论断很难让人相信。在相同的宇宙规律之下，很难说别的地方演化不出生命。从地球诞生到现在30多亿年，其间进化出几亿物种，真正发展到社会生命的只有人类一个。假如这样的话，整个宇宙中只有地球上有社会生命，我们一下又回到最古老的人类宇宙中心说。

这样一个庞大的400亿光年直径的宇宙，能够见证它的只有这么一个小行星上的物种，在这种情况之下地球真的是有宇宙中心地位的。这就是用科幻小说的思维方式，想象出的两种可能性。

牛奎光：大刘的两个观点很有意思，一个是美学在科学发展过程中指导价值， 第二个是人类作为智慧生命有存在的唯一性。

对未知领域的探索跟企业的创新一样，从一个机会切入，但越往后面走，就越容易走到很多没有明确的规定、界定的领域。那么当我们进行太空探索的时候，需要的核心精神、激励机制是什么？

刘慈欣：你说的太空探索应该包括两部分，一部分是对整个宇宙的观测，即天文学的探索。另一部分是实际的探索，即太阳系之内的宇宙航行，太阳系之外我估计在可见的未来不太可能。

第一部分，我相信这种探索会一直进行下去，整个星空的存在会一直激发人们探索的愿望。 第二部分比较复杂。人类进入到宇宙进行真正的太空探险，前景很不明朗。

这其中有两种可能性，一种很科幻、很理想主义。首先太空探索投入极大，比如发送三到五人的成员组去火星、再返回的预算大概是5000亿美元，往往也没有什么可见的效益。在重商主义的时代，要想大规模地进行这种太空探索，只有在人类文化最基本的层次上发生重大的变化，即人类的驱动不再是经济驱动，不再是商业重商主义而变成其它时才有可能。这个变化相当于第二次文艺复兴、第二次启蒙运动这么大，因此我觉得不太可能。

那是不是说大规模的太空探索就不再进行了呢？不一定。第二条途径就是把太空的市场启动起来，这就像当初启动IT市场一样。1944年前后，在美国宾夕法尼亚诞生了第一台计算机，同时美国航空委员会（NASA前身）也成立了。那个时候买一台电脑和买一枚航天火箭价钱差不了多少，但后来计算机市场得以启动。

所以人类要进行太空探索，得把市场启动起来，但市场启动远没有这么简单。现在我们想的大多都不靠谱，太空旅游稍微现实一些，但是它的市场能大到什么程度？很难想象。太空开矿，在可见的未来完全不靠谱。首先地球的矿产资源没枯竭到那个程度，其次太空矿产资源有多大仍是个问题。最不靠谱的是太空移民。向火星去移民，想想很浪漫，但地球的环境再恶化、恶化到极点，也不及火星的环境恶化。

所以未来去太空干什么，市场的增长点在哪，只有市场启动起来才知道。

牛奎光：在重商主义时代做不靠谱的、对未来有指引性的事，可能需要文艺复兴，这牵扯到基础的问题。那么随着科学越来越发达，人作为一个整体是不是道德水平也在相应提高？

刘慈欣：从传统对道德的定义来说，随着科技发展人的道德水平越来越高，这一点是毋庸置疑的。现代社会不像以前人类野蛮时代，动不动爆发大规模的战争，对生命、人权的尊重是以前无法比拟的。

但是话又说回来，这样的道德提高是因为科技发展，还是因为科技发展所带来的物质极大丰富呢？

我们知道，人类社会物质的极大丰富，会带来人类道德水平的提高。即便是没有科学技术，可能从别的渠道，人类物质的极大丰富也会带来整个社会状况的改变。像中国人说的：衣食足，知荣辱。

至于科技本身对人类道德水平的改变，这是让人困惑的问题。它首先改变了人类的生存状态，比如科技让人越来越远离群体生活，人与人之间的关系越来越淡漠，人越来越孤立。在这种情况下，人的道德水平高了还是低了？很难鉴定，可能是一个比较复杂的问题。

就科技对人类的道德的作用而言，随着科技进一步往前发展，可能会走到很关键的点。原因是现在科技不管怎么发展，人类还是以前的人类，我们现在和原始人在生理特征上没有多大区别，但是这种状态即将改变。包括基因科学、分子生物学、人工智能和人的融合，可能会在生理上会改变我们的形态。而人类的道德水平和生理状态密切相关，道德的基础是人类生物学的基础，生物学的基础一旦改变了，这个时候讨论的就不是道德高还是低了，而是整个道德的定义完全变了。

比如说，现在我们从生物学的角度来把人分为两种性别，如果将来出来第三种、第四种性别，甚至可能没有性别的情况下，人类道德体系将会是什么样子？恐怕不能用高或低形容，这确实是很难想象的事情。

牛奎光：如果道德不能用高还是低来形容，人类作为一个整体，往下的演化有方向还是没有方向？

刘慈欣：人类大概需要经历两万年的自然进化周期，才能看出一点变化。不过现在人类已经开始干预自己的进化，这种用科学技术干预自己进化的速度，比自然进化快得多。谈及方向，进化肯定有方向感，但是这种方向感比较容易引起一种误解，好像想往哪个方向拐就往哪个方向，但其实不是的，这是无能为力的。

就像凯文凯利在《科技想要什么》的书中说，科技本身有自己的意志，这种意志凭人类的感觉没有办法控制。现实不像我们想的那样，在某个科技领域加大投入、国家重视这个科技领域、更多人从事这个科技领域，它发展就快。

举一个例子，人机结合。我想现在没人愿意把自己的一部分变成机器，但假如一个人走出这一步，在某一方面他的身体机能比别的人强得多，慢慢就会有人模仿。等到了一个界限，现实便会变得不由人。你可以保持天然人的状况，但是你在职场上怎么跟人竞争。就算你自己不改造，你的孩子改不改，他的前途怎么办？

还有一点，技术的发展远超我们的想象。一般情况下，当人们说到人机结合，立刻就跟违反自然联想到一块，觉得人机结合以后，人没有了作为肉体生理的感觉，变得很不自然。这只能说明技术没有发展到那一步，假如技术真的发展到那一步，机器和人的结合不但不会削弱作为人的感觉，反而会强化。比如你装的皮肤的敏感度比天然的皮肤敏感，你装的眼睛可以看到红外线、紫外线。改造的大脑对人情感的敏感性、感情的丰富程度远比自然人高得多。到那个时候，不进行改造的话，自然人便显得迟钝了。

这种情况下，人类的进化真的发展到哪一步不是由我们控制的。

牛奎光：这有点像求存不求真——它的存在、延续是最重要的，对真的定义，即大家共同接受的东西是可以不断变化。

刘慈欣：对，因为人类整个生存最终目的不明显，我们只着眼于现在的生存状况，整个人类种族生存的目的是什么，从我们的先哲开始就没想清楚。

牛奎光：人类并不特殊，但还能让我们产生一丝慰藉的是：如果有什么事没有达成的时候，想想整个地球在宇宙中都不重要，那么你自己，可能没那么重要。

高爽：是的，虽然科学把人从中心地位踢到边缘，但是我们保留了一点点自负，那就是：地球到今天为止还是宇宙信息的中心，尽管它已经不是宇宙的中心，但是保留着信息中心地位，直到发现外星人为止，这个地位也没了。

刘慈欣：是的，刚才开始的时候我提了两种可能：人和宇宙之间的关系，人在宇宙中的位置，刚才高老师说到信息中心，我想到第三种可能。

宇宙中有很大尺度的东西，也有很小尺度的东西，大尺度包括像银河系这样的星系、星系团；小尺度包括电子、基本粒子，夸克。我却发现一个让人印象深刻的、但不被人们注意到的事实：一个东西可以很大，但不意味着很复杂。

恒星并不复杂，大的星系结构也不复杂，基本粒子也不复杂。整个宇宙中复杂度最高的层次就在我们这个尺度，最复杂的恰恰是人类，很难找到比人类大脑更复杂的东西。这么小的大脑里面神经元的数量，相当于银河系全部恒星的数量。从一点上来说，我们也能感受到一丝安慰，可能这也是人类在宇宙中位置中很重要的一个依据。

牛奎光：我们现在仍有这个信息中心的独特性？

刘慈欣：目前是有的，即便将来发现其它的外星文明，我们仍然是信息中心，只不过宇宙中有其它的信息中心而已，那个时候生命在宇宙中的独一无二的性质还是存在的——难以超越的复杂度，以及由复杂度产生的大量信息，都是存在的。

牛奎光：还有一个问题是关于连接，黑暗森林理论说，如果不知道对方的情况，并且沟通很困难，最好的办法是把对方消灭了。从这个意义上讲，您怎么看待我们跟其他信息中心可能产生的连接？

刘慈欣：首先，从物理层面来说，宇宙各文明间的连接方式可能跟我们完全不同，不使用电磁波，而是用别的手段，包括中微子、引力波等。

如果是这样，很可能现在的宇宙是很喧闹的，到处都是各种形式的朋友圈、发的帖子…这些我们根本不知道。就像一只蚂蚁、一只老鼠认为这个世界很安静，但其实我们的世界不安静。它不是不能理解，是感觉不到，这是一个障碍。但这个交流的障碍从长远来讲是有可能克服的，那就得等到我们的技术发展起来。至少现在人类可以发射和接收中微子了，引力波也能接收一点。

但另一个障碍极难克服。说起来可能有些抽象，很可能我们和其它文明看待宇宙的范式不同。这很难理解，我举一个生动的例子。当时苏联的第一批宇航员从太空回来以后，罗马梵蒂冈的教皇访问苏联，宇航员对教皇表示——飞到天上去并没看到上帝，但教皇的回答让人极其震撼，他说，你打开大脑也看不到思想。

这就是看待问题的范式不同，也许用我们的目光范式永远看不到思想，但是不等于别的文明看不到思想。很可能现在看到的宇宙，就是一个你看不到思想的大脑，而用别的文明范式来观察宇宙，展现在面前的是宇宙则是另一个途径。

这种情况下两个文明如何交流？没有办法交流，甚至判断那个文明有没有智慧都很难，两者之间完全没有任何沟通的可能。

牛奎光：这个脑洞很大。很可能我们现在看到的太空已经有各种朋友圈了，我们还不知道。

刘慈欣：因为最难的交流是在基本的文化和哲学层面上，一旦我们和外星文明在这个面不同，很让人绝望。

高爽：我记得大刘曾表达过一个观点：要小心对待人工智能或者虚拟现实的技术，它可能让会我们很舒服地躺在今天生活的范围里，没有很大的动力探索宇宙、远方。今天的您会修正这个观点吗？

刘慈欣：我今天依然是这种感觉，人们喜欢谈人工智能征服人类，但我认为到强人工智能还有很多重大的技术障碍需要克服。

最后人工智能征服人类，可能用完全不同的另外一种方式，现在我们能预测到的就是人工智能可能会抢走人类的工作。

以前人们天真地认为人工智能只能做重复工作、简单劳动，现在发现恰恰相反。人工智能最适合做的就是高智力的工作，律师、医生…诸如此类，反而做保姆对于人工智能来说不太好办，这是很严峻的现实。

但我要说的不是现实，而是对现实两种可能性的态度。一种被主流态度认为的最糟的可能性是——人工智能把人的工作全抢走了，局面回到了上世纪初产业工人和机器产生矛盾的时代，路德主义重现，人们砸毁机器、社会动荡不安。如果在今天发生这种情况，动荡的尺度会比那个时候大得多，而且没有退路。

那个时候有退路，农民、工人被机器抢走工作可以到城市中的第三产业找工作，而人工智能抢走人类工作后，工作没地方找可找——人们认为这是很黑暗的前景。

第二种，则是人们认为光明的前景。我们通过对社会体制、分配方式、经济结构进行彻底的改革，理顺了机器和人的关系。这样人类自古以来的铁的定义——“不劳动者不得食”就不成立了，人们不需要工作了。

在不工作的情况下人们可以拥有很好的生活，从事想做的事情，这是一个很光明的前景。这两种可能性都存在，但是我认为光明和黑暗反过来。恰恰人们认为最光明的可能性，是黑暗的可能性，很可能这是机器毁掉人类最可能的道路。

因为人类历史上经历过各种苦难：血与火，战争，灾难，但人类从来没有经历过整体安乐的生活。这种安乐的坎能不能过去很可疑，这种生活可能让人类整体文化都失去活力，最后变成一潭死水。不光星际探索的问题，各个方面都一样。

当然人们会想当然地认为，不工作了可以从事更高级的活动，艺术、科学、创造力，这只是想当然而已，少数人会从事那样的工作，大部分过什么样的生活，可想而知。

高爽：不需要工作比丢了工作可怕得多。

刘慈欣：丢了工作肯定有不间断的社会动乱，大部分人生活贫困，为生存而挣扎，但是这种情况我们陌生吗？人类就这么过来的，我们一直在进步，但是温柔的机器安乐窝的陷阱，会给人类文化带来什么样的后果，这是最让人担忧的。

这也是我认为现在和未来最应该担忧的事情。人类现在担忧环境恶化，机器征服人类，未来灾难，没有人担忧未来的安乐会带来什么，未来最具毁灭性的恰恰是安乐。

所以星际探索重大的意义，也是人们没有看到的意义就在这，它能给人类提供一个永无止境的，发挥人类文化活力的，保持人类进取精神的前景。宇宙很大，不担心会走到头。

牛奎光：保持想象力和进取精神，创业者应该需要一下天文学，感谢大刘老师。

刘慈欣：我再补充一下天文学最终极的意义。首先星空一直在塑造着人类，爱默生说，假如一千年间只有一夜群星显现，人们将怎样敬仰、崇拜并长久的记住天堂。假如宇宙就是月球轨道那么大的地方，人类的思想很难开拓布局。星空的存在，给人类的思想提供了无限大的容器，可以让思想很深远，它给人类提供了一个目的。

第二，这么大的宇宙，很可能生命的存在就是为了见证它，否则整个宇宙没有一个见证者。第三，生命在见证的同时，得把自己延续下去，这么大的宇宙是让生命去填满的。我认为这是宇宙最终极的意义，是人类或者生命的终极目的，至少是一个启示。

连盟：在您的眼中，未来可能存在的冲突还有哪些？

刘慈欣：我认为目前最可能的冲突来自哲学上的“他者”的概念。人类至今为止没有遇到过智力和人类相当或者比人高、拥有自我意识的他者。

他者的来源有两个。一个来源是外星文明的发现，但外星文明是很不确定的因素，可能一万年发现不了，也可能明天发就现。这是很现实的问题，不是科幻问题。

第二个他者就是人工智能，可能和人类同时存在在地球上的第二个具有自我意识、高智力的物种就是人工智能了。未来我们面临的挑战中，最科幻、最刺激的大概来自于这两个方面。

这两个方面中任何一个出现，有一点可以肯定，那就是我们现在所关心的这些，我们认为是天大的问题，社会问题、房价问题、医疗教育问题，很可能在未来的某一个界限之后完全无所谓了。要么很快解决了，要么它已经让位于最重要的问题。

连盟：除了担心他者，人群本身的分类、分裂需不需要担心？

刘慈欣：我不担心人类内部的事情。还是那句话，人类就这么过来的，以后也会这么过下去。但是他者的问题一次没有遇到过，我们不知道后果是什么。这个问题和其他的那些我们一次都没有遇到过的问题一样，包括人类进入安乐生活，还有超级大灾难，人类没有遇到过。

至于说人类族群之间的冲突，文明之间的冲突，不同国家的冲突现在看来是天大的事，用长远未来的目光看并不是很重要的事情。

过以宏：您最近最喜欢看的电影是？

刘慈欣：很多大家耳熟能详的老电影，什么《2001太空漫游》，《黑客帝国》。在这里我推荐一部苹果公司新拍的连续剧，叫《为了全人类》，这是部架空历史的电视剧：苏联人登上月球，美国人差了一步，正因为如此太空竞赛一直没有停止，这部剧描写了如果太空竞赛不停止将会是什么样子。