崔维兹皱起眉头。“但对于人类整体而言,何者有害,何者无害,你又如何决定?”
“点都没错,阁下。”丹尼尔说:“理论上,第零法则可
莱真有其人,他也不是什综合体。不知道你们传说如何描述他,但是在真实历史中,假使没有他这个人,银河可能始终未曾开拓。由于受到他感召,在地球产生放射性之后,尽全力抢救这个世界。机器人伙伴分布银河各处,适时地以渐进方式去影响人类。曾策动过个翻新地球土壤计划,过很久之后,又策动另个计划,试图改造邻近颗恒星所属个世界,那颗恒星现在叫阿尔发,这两项计划都不算真正成功。从来不能全然随意调整人类心灵,因为那些被调整过人,总是有可能受到伤害。受到机器人三大法则束缚,懂吧——直到今天依然如此。”
“呃——”
即使个普通人类或普通机器人,完全欠缺丹尼尔精神力量,也能察觉这个单音代表疑问。
“第法则,”他说:“阁下,是这样:机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。第二法则是:除非违背第法则,否则机器人必须服从人类命令。第三法则是:在不违背第法则及第二法则情况下,机器人必须保护自身存在。当然,是用近似语言对你们叙述这些法则,实际上,那是们正电子脑回路中复杂数学组态。”
“你发觉这些法则碍手碍脚吗?”
“必定如此,阁下。第法则毫无转圆余地,几乎全然禁止使用精神力量。在处理银河问题过程中,不太可能每步都不会造成伤害,总是有些人或许多人因而受苦,因此身为个机器人,必须选择伤害最小做法。然而,由于情势过于复杂,必须花许多时间才能做出抉择,即使有决定,也不可能绝对确定。”
“能解。”崔维兹说。
“在漫长银河历史中,”丹尼尔说:“天灾人祸从未间断,直试图减轻这些灾祸造成危害。某些时候,就某种水平而言,可算是有些成就,但如果你熟悉你们银河历史,就会知道成功例子不多,影响也不够深远。”
“这点还知道。”崔维兹带着抹苦笑说。
“和吉斯卡悟出另个机器人法则,它甚至于驾第法则之上。们将它称为‘第零法则’,因为想不到有什更合适名称。第零法则内容是:机器人不得伤害人类整体,也不得因为不采取行动而使人类整体受到伤害。这自然意味着第法则必须修正为:除非违背第零法则,机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。而第二、第三法则也必须做类似修正。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。