“天网”不再只是笑谈 人工智能究竟是不是双刃剑？ _ 游民星空 Gamersky.com

　　审判日没有降临。人们像往常一样工作、欢笑、抱怨、看电视、做爱。我想穿越街道，大声呼喊，抓住每个人，并告诉他们：“从今往后，每天都是礼物，请珍惜每一天！”

　　——《终结者2：审判日》

　　33年前，《终结者》横空出世，除了带来了精彩的打斗和完美的特效以外，还再次把一个与现代人类生活息息相关的潜在危机摆到了所有人面前：在高度智能化的现代社会，如果人工智能暴动，会怎么样？

　　33年后的现在，审判日没有降临，天网还没诞生，拥有深度学习能力的AlphaGo却击败了世界上最顶尖的围棋选手并再一次把人工智能推上了风口浪尖。从《仿生人会梦见电子羊吗？》到《终结者》，再到《黑客帝国》，我们一次次幻想着因为科技发展和人工智能技术成熟而被颠覆的伦理乃至文明生存问题。那么，在快速迈向未来的今天，那个毁灭人类文明的天网真的有可能出现吗？

人工智能离我们并不遥远

　　从人工智能诞生之初，人类就对其充满了警惕，很多科学家和业界领袖都担心人工智能会在未来造成灾难，相应的，我们也看到过很多以人工智能暴动被背景的科幻作品。不过仅管如此，大部分人都对人工智能的存在和其可能存在的潜在威胁没有多少直观的认知。在大部分普通人的视角里，人工智能和超级计算机一样，都是一个很美好，却离我们日常生活十分遥远的科技名词。但是事实上，人工智能已经在潜移默化的影响我们的生活。

　　去年3月，AlphaGo以3比1的战绩击败围棋世界冠军李在石，再次向世人宣告了人工智能在某些方面的优越性。而就在上个月，当我们还没从AlphaGo的辉煌战绩中回过神来的时候，它又被仅仅学习了3天围棋的后辈AlphaZero以100比0的战绩踩在脚下。而这次最特殊的是，和通过海量棋谱吸收了人类棋艺的前辈不同，AlphaZero完全从零开始，没有参考任何人类的知识，仅靠着自己的强化学习（reinforcement learning）就完美超越了AlphaGo，再次证明了人工智能的强学习性和自我延展性。

在人工智能面前，围棋界全面沦陷

　　而除了围棋界以外，其实人工智能早就已经渗透进了现代社会中，在不知不觉影响着我们的生活。人工智能一词是1956年在DARTMOUTH学会上提出的，而后，随着电子计算机技术的飞速发展，人工智能已经越来越多的与技术相结合，被应用到了生活的各个角落。如今的无人驾驶汽车、语音助手、智能家居系统中都能看到不少人工智能的影子。

　　一般意义上，我们可以把人工智能划分为四个层级，即“像人一样思考”、“像人一样行动”、“理性地思考”和“理性地行动”。而在这些层级下，我们又将其分为“强人工智能”和“弱人工智能”。科幻电影和小说中出现的大部分都是强人工智能，它们有着真正的推理和解决问题能力，并且有自主思考和推理能力。而目前我们现实中见到的更多还是弱人工智能，并不能真正的推理和解决问题，当然，也不可能诞生自主意识。

无人驾驶汽车也是对人工智能的一种应用

　　我们对人工智能的种种担心，大多都集中在强人工智能领域，而这其中最关键的一点就是，人工智能能够获取自主思维吗？人工智能会反叛人类吗？在这个基础上扩展的话，还诞生了一系列的哲学甚至伦理问题，毕竟当人工智能有了自主思维，那么，他可以被视为一个拥有独立灵魂的个体吗？

　　赛博朋克大师威廉吉布森曾说：“未来已经到来,只是尚未流行。”这句话或许也适用于今天。

天网真的会出现吗？

　　话题再回到《终结者》，毫无疑问，《终结者》中的天网系统可谓是强人工智能暴动的代表。电影中的天网系统前身是 美国研制的智能导弹防御系统，这个系统最初是为了防卫美国国土安全，却在实装后诞生了自我意识，并视所有人类为威胁。于是天网向俄罗斯发射了一枚核弹，引发了核战争，导致审判日在1997年8月29日到来，30亿人在这一天里丧生。而《终结者》的主线内容，就是人类幸存者在约翰·康纳的带领下反抗天网的过程。

　　事实上，天网前身的美国导弹防御系统并非杜撰，这个系统是真实存在的。其主要作用是通过卫星探测，雷达预警，系统锁定，地面指挥，陆基拦截及校正等程序拦截所有进攻美国领土的导弹。而在前苏联，还有一个和天网更加相似的系统，即堪称世界头顶的达摩克利斯之剑的“死亡之手系统”。

　　死亡之手系统是冷战时期的产物，在美苏军备竞赛时期，为了对抗美国的核威慑，苏联打造了这套“超级末日武器”。一旦美苏发生核战争，“死亡之手系统”会开始自动检测，如果在一定时间内没有得到回应，它会认定“末日已经来临，苏军高层已被摧毁”，并对美国进行核打击。让人毛骨悚然的是，尽管《终结者》中的天网是幻想产物，但其真的有摧毁人类的可能。

苏联的r-5m弹道导弹测试

　　不管是天网还是现实中存在的死亡之手系统，他们之所以真的有可能引发核战争，是因为核捆绑战略的存在。所谓的核捆绑，指的是核力量相对弱小的国家通过己方核力量将某个具有更强核能力的国家捆绑于己方的战车上。其目的是防止一个核战力强于己方、而己方难以打击的第三方对自己发起核攻击。举例来说，一旦A国遭遇反击范围外的B国核打击，那A国会将核捆绑对象绑定为打击范围内的其他国家，进而通过逐步扩大的核战争最终影响到B国，而在这个捆绑链条下，很容易把局部核战争扩散为全球性的核战争。这也是天网能够通过核弹将人类推向末日的基础之一。

　　当然，在科幻文学、电影、游戏里，天网这种可以掌控核武器的人工智能只是强人工智能的一种，当然也是最致命的一种。而除了它之外，光是在游戏领域，我们也已经见到过很多同样知名的人工智能。《光环》中的cortana就是游戏中最著名的人工智能之一。作为士官长星际史诗中的那一抹蓝色柔情，cortana陪士官长经历了一系列传奇的冒险，两个人一起数次拯救了星际战争中岌岌可危的人类文明。

　　但在最新的《光环5》中，这个曾经对士官长说出“不要随便对女生做承诺,尤其是在你没有把握的情况下”的幽蓝魅影却走上了所有人工智能的终焉。被先行者集体智慧扭曲的她策反了人类众多AI，并妄图利用武器统治银河系以达成“和平”。可以预见的是，在未来的《光环6》中，士官长的旅途必然和踏入歧途的cortana息息相关。

《光环5》中的AI暴动堪称人工智能威胁的典型案例

当天网降临

　　世界上许多业界领袖都是人工智能威胁论的支持者，在今年2月份的一个名人问答中，针对人工智能未来是否会自行思考进化并给人类带来灾难这个话题，比尔·盖茨的回答是：“属于对超级人工智能充满担忧的阵营。如果机器能替代人类做事但没有发展为超级智能，此时只要管理好这些机器，善于利用似乎没有太大危险。但是，在几十年的发展之后，人工智能很可能强大到需要警惕的阶段。”

　　而在更早之前，霍金也曾在演讲中提出，我们应该警惕因人工智能发展而可能出现的威胁，人工智能一旦脱离束缚，在以不断加速的状态重新设计自身，受生物进化极限限制的人类将很难与其抗争。“他们本身也是生根于达尔文的进化论之中。因此人类需要利用逻辑和理性去控制未来可能发生的威胁。”霍金甚至认为，人工智能也属于进化论链条中的一环。

　　而尽管目前来看人工智能威胁论还只是对未来与科技的悲观想象，但看过《终结者》等电影后，大概许多人也都想过这个问题，随着人工智能在人类生活中担任越来越多的重要职责，一旦人工智能叛乱，我们是只能够坐以待毙吗？

　　拿天网来说，恐怕这类人工智能对人类能造成的最大伤害都来自电影中的那个“审判日”，对这样一个掌控着全美武装的AI来说，通过前文提过的核捆绑引起全球核战争不要太简单。而一旦这种事发生，恐怕人类真的就要十不存一了。而除了简单直接的“审判日”以外，人工智能初期给人类造成的最大困扰主要还是在通信、网络和电子设备。但与此同时，人工智能不论如何发展，其根本组成方式还是与硅基生物完全不同的。这种时候，电子战里常见的石墨炸弹和EMP没准可以发挥奇效。

　　至于终结者，就电影里的表现来看，他们其实也没那么致命。尽管终结者在普通人中以一当百，但面对常规武器却并非无敌的。而且其伪装能力在现代社会形同鸡肋，在四处都是金属探测器的如今，液态金属构成的终结者机器人们恐怕寸步难行。

　　另外，即使在常规战场，人类也不是毫无还手之力，君不见电影里看先堪称酱油的抵抗军也能在天网和终结者的威亚下苟活几百年。而在《终结者2：审判日》中，为了对抗天网，脱离了一步步沦陷的现实世界，人类在虚拟世界中开启了实战训练。在游戏里，为了躲避天网的监视，抵抗军们只能通过虚拟战的方式来进行实战训练。在这块庞大的战场上，所有战士们赤手空拳空投进入，身边每个人都是敌人，在一系列极限的挑战中，力求活到最后。

在虚拟战中模拟与终结者的战斗

　　值得一提的是，游戏中有提到，为了获得与终结者对战的经验，抵抗军战士们操作的都是与T-800基础架构相同的虚拟替身。假如在这个世界中真的与天网控制的终结者大军进行常规战争，那么这确实是个不错的选择。当然，这一切都是建立在AI暴动的想象之上的。回到最初说过的，如果这一天真的到来，除非掌握了《终结者》中的时空穿越技术，否则人类文明恐怕很难撑过审判日，毕竟，在毁天灭地的核战争面前，除了直接伤亡以外，人类赖以生存的生态圈恐怕也会迎来毁灭性打击。

穿越时空的T-800

　　当然，至少在目前阶段，人工智能能否获得类似的模拟和进化方式还完全是未知数。和众多赛博朋克作品相同，人工智能威胁论更多还是我们对科学发展悲观一面的想象。我们并不知道人工智能在未来是否会成为整个人类层面的威胁，但人工智能的发展和规划，却已经在一步步的影响我们的日常生活。