千米小说网

汝竟顾念他（第1页）

……汝竟顾念他

机器人学三大法则：

一、机器人不得伤害人类，或因不作为而使人类受到伤害。

二、除非违背第一法则，机器人必须服从人类的命令。

三、在不违背第一及第二法则的情况下，机器人必须保护自己。

一

凯斯?哈里曼在美国机器人与机械人公司已经当了十二年的研究部主任，现在，他觉得根本无法确定自己做得是否正确。他伸出舌尖，舔了舔肥厚却颇为苍白的嘴唇。伟大的苏珊?凯文的全息像正毫无笑容地俯视他，那张脸孔看来似乎从未像今天这么冷峻。

平时，他会遮起这位历史上最伟大的机器人学家，因为她使他神经紧张。（他试图将这个影像想成“它”，但从未真正成功。）这回他不太敢那么做，于是，她那早已作古的目光遂刺穿他的脸颊。

他必须走出的那一步，既可怕又自贬身价。

坐在他对面的是乔治第十，他显得分外平静。无论是哈里曼明显的不安，或是上方壁龛中那位机器人学守护神的明亮影像，皆未对他造成丝毫影响。

哈里曼说：“真的，乔治，我们还没有机会好好谈谈这个问题。你和我们在一起还没多久，我一直找不到好机会跟你独处。但是现在，我希望做一次详尽的讨论。”

“我万分乐意这样做，”乔治说，“待在美国机器人公司这段期间，我已经推测到这个危机和三大法则有关。”

“是的。当然，你知道三大法则是什么。”

“我知道。”

“是的，我确定你知道。但让我们再深入些，考虑那个真正基本的问题。过去两个世纪，或许我可以说，美国机器人公司的成就非凡，但我们始终未能说服人类接受机器人。我们制造的机器人，只能用在人力无法胜任的工作场所，或是人类觉得太过危险的环境中。机器人一向主要是在太空工作，这限制了我们本来能做到的事。”

“不用说，”乔治第十道，“那是个很宽松的限制，在这个限制内，美国机器人公司仍能大展宏图。”

“并非如此，这有两个原因。首先，我们的活动范围无可避免地逐渐缩小。比方说，随着月球殖民地变得越来越世故，它开始要求减少机器人的数量。我们预料在未来几年内，月球上便会禁止使用机器人。在人类殖民的各个世界上，这件事迟早都会重演。第二点，地球上若不准使用机器人，就谈不上真正的宏图。我们美国机器人公司的人坚决相信，若要保持文明的进步，人类一定需要机器人，必须学着跟这些外型酷似他们的机械共存共荣。”

“现在不是吗？哈里曼先生，你的书桌上有个电脑输入端，据我了解，它连接到本机构的万用自动机上。电脑是一种固定的机器人，是没装上身体的机器人脑……”

“没错，但那也有限制。人类使用的电脑被一步步专门化，以避免它们获得太像人类的智慧。一世纪前，借着我们称为机体的伟大电脑，我们在人工智慧上有长足的进展。后来，那些机体自动自发限制了自己的活动。在它们解决了威胁人类社会的生态问题之后，它们就从这个世界逐渐淡出。根据它们的推断，它们若是继续存在，将会扮演人类的拐杖这个角色。由于它们觉得这会有害人类，因此根据第一法则，它们对自己作出这种判决。”

“它们那样做不对吗？”

“我的看法是，不对。他们那样做，反而强化了人类的科学怪人情结；使人类内心充满畏惧，生怕哪个人造人会与自己的创造者为敌。人类害怕有朝一日被机器人取代。”

“你自己不害怕吗？”

“我比一般人清楚。只要有机器人学三大法则存在，它们就做不到。它们能充当人类的伙伴；在试图探索与善用自然律的奋斗中，它们能和人类并肩作战，使两者共享人类无法单独获致的成就。但在这个过程中，机器人始终扮演仆人的角色。”

“但若是过去两个世纪以来，三大法则证明了它们能规范机器人的行为，人类对机器人的疑虑又是从哪里来的？”

“这个嘛，”哈里曼使劲搔了搔头，使逐渐花白的头发翘起好几簇，“当然大多出于迷信。不幸的是，也牵涉到反机器人分子煽动的一些情结。”

“跟三大法则有关吗？”

“是的，尤其是第二法则。第三法则没有问题，你懂吧，它是普适的。机器人必须随时准备为人类牺牲自己，为任何人类。”

“当然。”乔治第十说。

“第一法则或许不算很理想，因为我们总是可以想象一种情况：有甲、乙两个互斥的行动，某个机器人必须采取其中之一，但两者皆会导致人类受到伤害。因此，机器人必须迅速决定哪个行动导致的伤害较小。要为机器人造出一组正子径路，使那种选择成为可能，不是一件简单的事。如果甲行动会导致一位有天分的年轻艺术家受到伤害，乙行动则会导致五位平凡的老人受到同等伤害，那么该选择哪个行动呢？”

“甲行动，”乔治第十说，“一人受到的伤害小于五人受到的伤害。”

“是的，机器人一向被设计得这么判定。指望机器人对抽象的价值，诸如天分、智慧、对社会有用的程度作出判断，似乎总是不切实际的。那会延迟决定的速度，使机器人慢到相当于停摆的地步。所以我们一律以数量为准。所幸我们可以指望，让机器人必须作这种决定的危机十分罕见……不过，这就把话题带到了第二法则上。”

“服从法则？”

“没错。服从的必要性是不断的：一个机器人也许有长达二十年的寿命，从头到尾不必为避免人类受到伤害而迅速行动，或发现自己面对毁灭的危险。然而，在这段期间，它会不断服从命令……谁的命令？”

“人类的命令。”

“任何人类吗？你如何判别人类，以决定是否服从？人算什么，汝竟顾念他，乔治？”

乔治迟疑不语。

哈里曼赶紧说：“那是《圣经》上的话，不过无关紧要。我的意思是，下令者若是小孩，或是白痴，或是罪犯，或是人格完美的知识分子，但他偏偏是个外行，因此不知道他的命令会导致不良的后果，那时机器人还必须服从吗？又如果两个人下的命令互相冲突，机器人该服从哪一个？”

“两百年来，”乔治第十说，“这些问题没有发生过、没有被解决吗？”