马斯克再发警告：人类难逃被机器人独裁的命运_3DM单机

人工智能已经在多个领域战胜了人类，人类应该畏惧AI吗？最近撤出OpenAI研究的埃隆·马斯克再次发出警告，称超级智能（Superintelligence）可能会创造出一个“不朽的独裁者”。

在美国电影导演克里斯·潘恩（Chris Paine）制作的一部纪录片中，马斯克表示，在公司或其他人类组织的推动下，超级智能的发展可能会诞生一种统治世界的人工智能形式。

马斯克称：“我能想到的最不可怕的未来是，我们至少能把人工智能民主化，因为如果一家公司或一小群人成功地开发出了上帝般的数字超级智能，它们就能接管世界。”他说：“对于邪恶的人类独裁者来说，至少那个人会死亡。但对于人工智能来说，将没有死亡，它将永远活着，然后你就会面对一个不朽的独裁者，我们人类将永远无法逃脱。”

据了解，潘恩的纪录片调查了一些人工智能的应用实例，包括自动武器、华尔街的技术和操纵假新闻的算法等。它还引用了一些有关人工智能的文化作品，比如1999年的电影《黑客帝国》(the Matrix)和2016年的电影《机械战警》(Ex Machina)。

对于哪些公司希望开发出超级智能，马斯克列举了谷歌的人工智能子公司DeepMind的例子。2016年，该公司开发的围棋程序阿尔法狗（AlphaGo）击败了人类围棋世界冠军、韩国棋手李世石，这是继1997年IBM的深蓝电脑(DeepBlue)击败国际象棋冠军卡斯帕罗夫(Garry Kasparov)后，人工智能发展史上的又一个重大成就。

马斯克表示：“DeepMind系统可以在任何游戏中获胜，它已经可以攻克所有的原始Atari游戏，它是超级人类;它能以超级速度攻克所有的游戏，在不到一分钟的时间里。”这位同时担任特斯拉和SpaceX首席执行官的企业家表示，人工智能“不需要作恶，就可能摧毁人类。”

他说：“如果人工智能有一个目标，而人类恰好成为拦路虎，那么它将摧毁人类，这是理所当然的事情，它甚至不会有一点犹豫，也没有什么难受的感觉。”

马斯克称：“这就像，如果我们正在修建一条公路，而一个蚁丘恰好在路上，我们并不憎恨蚂蚁，我们只是在筑路，所以，再见了蚁丘。”去年，马斯克警告称，全球对人工智能技术的争夺，可能导致第三次世界大战。这位企业家还表示，与朝鲜的核冲突相比，新兴技术可能给世界带来更大的风险。

此外，马斯克认为，人类应该与人工智能融合，以避免变得无关紧要的风险，他是Neuralink的联合创始人，这是一家脑机接口初创公司，希望将人脑与电脑接口连接起来。今年2月份，他辞去了OpenAI董事会的职务，OpenAI是一家非营利组织，旨在安全地促进和发展人工智能。

事实上，最近人工智能威胁论正在不断升温。

近日韩国科学技术院与韩国十大财团之一韩华集团旗下韩华系统公司合作，开设了人工智能研发中心，目的是研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术。

这也引起业内专家的广泛担忧，目前，30个国家和地区的人工智能及机器人专家宣布将抵制研究人工智能武器的韩国科学技术院（KAIST），这由澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起，美国和日本等30个国家和地区的研究人员4日签署了一封公开信，敦促韩国科学技术院停止人工智能武器研发，他们称这是加速机器人武器开发竞争的动向，令人遗憾，并表示如果该大学不承诺停止研发，将与之断绝关系，而且将拒绝访问韩国科学技术院、接待对方访客或与对方合作研究项目，直至这所韩国顶尖大学承诺放弃研发缺少“有效人工控制”的武器。

网易智能注意到，这封联名信中写道：“自动武器一旦成熟，战争发展速度和规模将前所未有，它们可能会被恐怖分子利用。”发起联名抵制的人工智能教授沃尔什告诉路透社记者，机器人和人工智能技术实际可以在军事领域发挥有利作用，比如完成扫雷等威胁人类安全的任务，但我们不能将决定生死的权力交给机器，这就越过道德底线。

此外，Google内部流传着一封联名信，有3100多人在上面签名，抗议谷歌为五角大楼提供人工智能力量，谷歌的员工希望谷歌CEO退出五角大楼的代号为Maven的项目，并宣布“永不开发战争技术”的政策。

值得一提的是，早在今年3月，来自14个组织的26名研究人员对恶意AI所造成的危险进行了全面的报告。