“其实机器人完全是出于善意,它们显然都在为人类着想,为所有人类幸福而不断努力,可是这样反而更令人无法消受。”
“机器人每项进展与突破,都使得这种情况更为变本加厉。后来机器人甚至发展出精神感应力,这表示连人类思想都会被它们侦知,从此之后,人类行为便受到机器人更严密监督。”
“同时,机器人外形变得越来越像人类,可是它们行为却让人眼就能看穿,徒具人形只让它们更惹人反感。所以,这种情况当然会有个结。”
“为什会‘当然’呢?”裴洛拉特直聚精会神地听着,直到现在才开口发问。
杜姆说:“这是机器人钻逻辑牛角尖必然结果。最后,机器人进步到具有足够人性,终于体认到人类为何会憎恶它们,因为它们名义上虽然为人类着想,实际上却剥夺人类应有切。结果机器人不得不做出决定,不论人类照顾自己方式多拙劣、多没有效率,也许还是让人类自生自灭比
藏、归档、电脑化,时间长总会变得模糊不清。故事像滚雪球般增加,传说则像灰尘样累积,越是久远历史,上面积聚灰尘就越厚,最后终于退化成传奇。”
裴洛拉特说:“们历史学家对这种过程相当清楚,杜姆。传奇自有吸引人地方,大约十五个世纪之前,列贝尔·坚纳拉特就曾经说过:‘精采虚构情节驱逐乏味历史真相’,现在这句话已经被奉为‘坚纳拉特定律’。”
“是吗?”杜姆说:“本来还以为这只是自己发明讽刺呢。嗯,由于这个所谓坚纳拉特定律,们过去历史充满朦胧美感——你们知道机器人是什吗?”
“们到赛协尔才知道。”崔维兹随口答道。
“你们看到过?”
“不,有个赛协尔人问过们相同问题,们回答不知道,那人就向们解释番。”
“原来如此。你们知道,人类曾经和机器人共同生活过段岁月,但是相处得并不好。”
“这点们也听说。”
“机器人都受到所谓‘机器人三大戒律’严格约束,这点可以追溯到史前史。三大戒律有好几种可能版本,根据正统看法,它内容是这样:、机器人不得伤害人类,亦不得坐视人类受到伤害而袖手旁观:二、机器人必须服从人类命令,除非该命令抵触第戒律;三、机器人必须保卫自身存在,除非此行动抵触第或第二戒律。
“等到机器人变得越来越聪明能干之后,就对这些戒律,尤其是最高优先第戒律,做出越来越广义诠释,并且越来越以人类保护者自居。但它们保护却剥夺人类自由,使人类越来越难以忍受。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。