会主动伤害人的机器人诞生 违反了机器人第一原则_3DM单机

据美国《华盛顿邮报》报道，如果你把手指头放到亚历山大·瑞斌(Alexander Reben)的机器人前面，那么它就有可能会扎你一下!当然你不会因此而严重受伤，只是像验血一样会有点刺痛感觉。瑞斌设计这个机器人的目的便是造成最小的痛苦，但从技术上说，仍然会对人造成伤害。

你真的会流血——如果这小机器人选择扎你一下，你的手指上会有一小团血滴渗出。到目前为止，这个机器人已经扎了好几个人的手指头。但有时候，当你把手指头放在它面前，这台小机器人却毫无反应，不会扎你——究竟什么时候会扎人什么时候不会呢?

没有人知道答案，即便是设计者也不知道，因为这是随机的。瑞斌是一名机器人专家，同时也是一位艺术家，居住在美国加州伯克利附近。他对《华盛顿邮报》表示：“我将其视作一种有型的哲学。”瑞斌的这件作品常常将艺术与技术以一种有趣的方式相互混合，得到一种甚至接近诙谐的效果——比如，他曾经设计过一款太阳能的音乐播放器，然后用它播放着《你是我的阳光》(You Are My Sunshine)。

然而这台最新的小机器人却不是为诙谐幽默而设计的。瑞斌在他的网站上表示，这是世界上第一台“自主并有意”违反所谓“机器人第一法则”。这是著名科幻作家阿西莫夫所提出的机器人三法则中的第一条。

在1942年发表的短篇科幻故事《环舞》(Runaround)中，阿西莫夫首次明确阐述了他有关机器人三法则的思想，分别论述如下：

机器人第一法则：机器人不得伤害人类，或坐视人类受到伤害;

机器人第二法则：除非违背第一法则，机器人必须服从人类的命令;

机器人第三法则：在不违背第一及第二法则下，机器人必须保护自己;

而瑞斌的这个小机器人的做法很显然是故意伤害人类的，因此很明显违反了机器人第一法则。但尽管对已经有74年历史的经典理论构成了挑战，但实际上这个小机器人的结构设计是非常简单的。

瑞斌最初的设想是一台连着一个金属臂的“自动梳头机”，能让人感到舒服和享受，这是受到了伍迪·艾伦的电影《傻瓜大闹科学城》(Sleeper)中哪个抱在怀里就能让人产生愉悦感受的“快乐球”(pleasure orb)的启发。

人们坐在椅子里，然后瑞斌的梳头小机器人就会给做头皮按摩。瑞斌表示，这样的场景会创造一种人与机器人之间某种令人不安的亲密感。他说：“在这种情况下，机器会让人紧张地发抖。人们会感觉非常非常诡异。”

瑞斌随后将其改造，制作出一个能给人们带来小小伤害的机器人。整个改造过程花费了数天时间和数百美元。这是一个带有小小手臂的机器，其底座大小和一张打印纸相差无几。它安装了一台微型探测器，能够检测是否有人把手指放在了它的机械臂下方。此时，如果小机器人决定要扎他一下，那么它就会突然快速地扎下去。

当然这样的动作不会对人造成什么伤害，你只会感觉稍有刺痛，手指上被扎出一个非常小的孔。但这样的威胁性已经足够高，让很多人望而却步。瑞斌指出：“你很难不感到紧张，浑身冒汗。”他说，但是这背后的原因或许更多的是惊奇，而不是疼痛。

但其中最关键的一点还在于，正如瑞斌所指出的那样，这台小机器人做出了要伤害人类的决定，而这与此前所有的机器人都是不同的。他说：“我想到了军用机器人。但即便是军用机器人也并不会主动伤害人类。”

就拿美军的“捕食者”无人攻击机来说，它当然可以发射导弹杀死人类，但做出这项决定的不是“捕食者”无人机本身，而是它背后操控的美军军方人员。再比如美国海军开发的，由雷达控制的自动岗哨炮，它会自动向出现的入侵者开火，但这同样不是它自己的决定，而是遵循了一系列内部编程所设定的激发阈值条件。在瑞斌看来，这样的系统并非选择攻击，正如并非地雷自己选择炸死踩上去的人员一样。

而瑞斌设计的这个旨在打破阿西莫夫机器人准则的机器人则完全不同，因为是否扎人的确是机器人自己的决定。放在它手臂下的人类手指会激发小机器人的一系列的软件程序，最后将输出扎人或者不扎人的决定。瑞斌表示：“其做出是否扎人的决定过程是我无法预测的。”这台小机器人的内置程序并未采用机器学习或者人工智能技术用于决策过程，但也并非完全属于50:50的对半开概率。当被询问这台小机器人扎人的几率时，瑞斌说：“我不知道它扎人的概率有多大。”

因此，第一台违反理论上原则的机器人已经实实在在地存在了。这是一台真正依赖自身决策的机器人，在跟它们相处的过程中，我们或许时不时地需要带上创可贴。

这台小机器人可能会伤害你!如果你把手指头放到它面前，它有可能会扎你一下!当然你不会因此而严重受伤，只是像验血一样会有点刺痛感觉

当然这样的动作不会对人造成什么伤害，你只会感觉稍有刺痛，手指上被扎出一个非常小的孔。但这样的威胁性已经足够高，让很多人望而却步