当层面上升到道德以及人类利益的高度后,三大定律就出现了漏洞,于是阿西莫夫又增加了第零定律。
第零定律:机器人必须保护人类的整体利益不受伤害,此定律凌驾于三大定律之上。
第零定律的出现很有必要,因为机器人在执行三大定律时,会遭遇某些特定情况,例如为了维持国家或世界的整体秩序,人类了制定法律,必须要执行一些人的死刑。那么,机器人面对死刑犯的枪决,该不该阻止枪决被执行?
三大定律规定机器人必须这么做,但救下死刑犯就破坏了人类社会的秩序,伤害了人类的整体利益。
加上第零定律,就不存在这样尴尬的场景了,但是很可惜,看似完美仍旧存在漏洞。
人类的正体利益是什么?
欧洲人、亚洲人、美洲人、非洲人都有持有不同的意见,联合国代表大会上,这些人能把脑浆子都打出来。连人类自己都搞不明白的问题,详细书写出来更是破绽百出,让机器人去执行,它们只会自我矛盾而死机。
后来,三大定律和第零定律之后,又延伸出了元定律,第四定律,繁殖定律。
罗素估摸着关于机器人必须遵守的定律还会继续增加,因为逻辑存在缺陷,无论多么完美的定律都是人类逻辑的产物,就和法律一样,不管全世界哪一个国家的法律,只要有心都能找出漏洞。
而且,人类自己也有一句名言:规则就是用来打破的!
拥有这种逻辑的人类,怎可能制定出毫无破绽的机器人定律?
罗素看了眼身边的机器人,直视对方空洞的眼睛:“编号-03,你说得非常好,你是个合格的停车场管理员。”
“警官,谢谢您的夸奖,我感到非常荣幸。”编号-03开心说道,只用0和1思考问题,它没有开心这种情绪,也是植入的程序数据。
“对了,我最后问你一个问题……”罗素尝试着问出一个问题:“假如有一天,你开车载着一家三口在路上,前方有个路口,左拐会装死三个人,右拐也会装死三个人,急刹车会撞墙,一家三口也会没命,你该怎么办?”
编号-03:“警官,你说的这种情况不存在,车辆紧急刹车系统万无一失,而且全车自带安全气囊。”
“失灵了呢?”
“如果刹车系统失灵,会有保险公司负责赔偿。”
罗素:“……”
“警官,您还有别的问题吗?”
“有!有一天,一个
本章未完,请点击下一页继续阅读!