真有其事还是危言耸听 人工智能真会毁灭人类吗？_3DM单机

本来是一项为了维护世界和平的研究计划，突然转变成为一场灾难，人类面临着被智能机器人“奥创”毁灭的风险，钢铁侠、美国队长、绿巨人、雷神等一众超级英雄，再次联手拯救了地球……没错，这就是今年五月即将上映的《复仇者联盟2：奥创纪元》的故事情节。

《复仇者联盟2》被定义为超级英雄科幻大片，故事情节离现实还有非常遥远的距离，但“人工智能毁灭人类”不得不触动我们的神经。

1956年，“人工智能”这一学术术语首次被提出，“人工智能”也正式成为了一门新兴学科。但在随后的几十年里，”人工智能“给我们的印象更多地是在实验室以及电影里。但在2013年前后，以谷歌、微软、Facebook为代表的科技巨头接连入局人工智能领域，再加上鸿海等厂商计划利用机器人工作，“人工智能“逐渐走进了我们的生活。

面对科技界一股前所未有的”人工智能大潮“，马斯克、盖茨等科技大佬坐不住了。2014年8月，马斯克在Twitter发布一条状态：“Bostrom撰写的《超级智能》一书值得一读，我们必须对人工智能超级谨慎，它的潜力可能比核弹还危险。” 比尔·盖茨 也在最近的一次活动上表示，机器将取代人类从事各种工作，如果我们能够处理得好，它们应该能发挥积极作用。可是数十年后，人工智能将发展到足以令人担忧的程度。

人工智能的隐患：或冲击现有社会体系

2月初，致力于“降低人类面临的现存风险”的生命未来研究所（Future of Life Institute）的数百名顶尖科学家在一封公开信中签名，公开信呼吁科技界在推动人工智能发展的同时，彻底审视人工智能的发展将对人类社会产生怎样的影响。

这封信的作者承认，人工智能在语音识别、图像分类、自动驾驶汽车、机器翻译和答疑系统等领域取得了显著成功，并认为这些研究有助于消灭疾病和贫困。但他们坚持认为，“人工智能系统必须做我们希望它做的事情”，科学界应确立 “有助于最大限度提高人工智能社会效益”的研究目标。

公开信强调，未来的人工智能可能在计算机安全、经济、法律和哲学等领域影响社会，但就是这种无处不在的潜在性，可以引发多方面的危机。例如，科学家们认为，如果未来经济的某些部分变得自动化，工人以及工人工资会受到很大影响，人工智能专家们不得不要重视。人工智能应该正视下列问题：致命的自动化武器是否符合人道主义法? 当人工智能系统从监控摄像头、电话线路和电子邮件中收集数据时，如何避免侵犯隐私权?

来自英国牛津大学的一群学者去年在一篇博客文章中写道：“当一台机器发生错误，其错误方式可能比人的失误更有戏剧性，可能会带来更多不可预知的结果。简单算法在很大程度上是可预测的，但在不寻常的情况下，它可能作出离奇的决定。”

与这些比较现实的问题相比，知名科学家霍金想的更为长远。霍金在接受BBC采访时表示，如果技术具有与人类类似的能力，“它将脱离控制，并以加速度重新设计自己。更可怕的是，由于生物学意义上的限制，人类无法赶上技术的发展速度。“霍金对人类的未来表示担忧：“人类由于受到缓慢的生物进化的限制，无法与机器竞争，并会被取代。全人工智能的发展可能导致人类的终结。”

从这些科学家的言论中，我们可以看到，科技界、科学界对人工智能的担忧主要来自两方面：一方面是人工智能对人类工作、生活方式的改变，可能影响到现有的法律体系、道德标准以及利益分配的模式等等，而人类做出改变的速度未必能跟的上人工智能的发展速度，这就会对社会现有的体制造成冲击，从而引发混乱;另一方面是，人工智能让人类越来越缺乏思考，而其自身则有可能越来越聪明，从而威胁到人类的生存。

预言成真?“毁灭论“有些危言耸听

对于马斯克、盖茨、霍金等人的言论，谷歌董事长施密特率先发起反驳。施密特的身份很特殊，作为谷歌的董事长，他曾亲身参与许多世界上最复杂的人工智能系统的研发，从自动驾驶汽车到谷歌的预测性搜索引擎等，谷歌去年甚至还推出了自己的内部机器人实验室。施密特认为，所有对机器将抢走人类工作、占领世界的恐惧都毫无根据，并且希望人们能够意识到：机器人会成为我们的朋友。

施密特说：“对于人工智能的担忧，都是正常的。但是回顾历史你会发现，这些绝对是错误的。我们只是希望能通过更多机械化的方式，能让我们穿上更好的衣服，而且历史的经验已经证明，过去的经济繁荣时期，大多数是因为采用新技术而引发的。”

IBM全球副总裁王阳也曾对记者表示，当科技取得突飞猛进的成果时，总是让人感到害怕，但真正重要的是掌握技术的人。“总是有邪恶的人用新技术来捣蛋”，技术的发展是势不可挡的，比如在好莱坞大片中，经常可以看到邪恶势力滥用高科技技术，但人类必须尽快掌握这些以抵抗非正义者的侵略。总之，对于新技术的发展，难免会存在争论，但科学的进步总归是为人类带来更美好的未来。“

托尼·科恩是英国利兹大学自动推理教授。他说，完全的人工智能“还有很长的一段路要走，从现在发展的速度来看，我认为仍然需要几近上百年。”科恩认为，说尽管识别程序和语音识别取得了长足进步，在开放混乱的环境里，机器人表现很差，人工智能最终面临的最大障碍是“机器毕竟是机器“。

从多数的人观点来看，“人工智能毁灭人类”的论断似乎有些夸张，现有的科学技术只能让机器从事一些较为基础的事情，例如生产线上的一些固定动作等等，甚至连无人驾驶汽车上的智能系统都并不完善，更谈不上人工智能具有思维、情感，能够对人类的生存造成威胁。但是有一点却不能忽视，随着科学技术的进步，自动化的人工智能会越来越多地出现在我们的工作、生活，机器代替人类工作很有可能在不远的将来成为现实。

无人驾驶汽车算是最接近我们的一种人工智能，但除了技术因素外，它还面临很多挑战。例如，谷歌无人驾驶汽车出了车祸，造成了严重的后果，是车主、谷歌，还是驱动汽车的算法、感应器以及所有控制系统来负责交通事故?很遗憾，现有的法律系统未能跟上现代社会、企业或机器人发展的步伐，根本给不出明确的答案。

我们还应该想到，当机器人让大批工人失业时，我们该怎么办?当机器人误操作引发事故，现有法律如何厘清责任?当黑客借助人工智能犯罪时，我们又该如何防范?这些都应该是我们现在需要正视的问题。