第一百四十一章 规则就是用来打破的(2 / 3)

诸天尽头 凤嘲凰 3608 字 2021-03-24

满满的科技感进入普通家庭,从生活用品到家电工具,智能机器人已经渗透到了人类生活的方方面面。

作为最好的生产工具和人类伙伴,机器人开始在各个领域扮演着日益重要的角色,而由于众所周知的机器人三大定律的限制,人类对这些能够胜任各种工作且毫无怨言的伙伴充满信任,它们中的很多甚至已经成为了一个家庭的成员。

“编号03,把机器人三大定律说一遍!”

“好的,警官。”编号03的语气变得充满神圣感。

“第一定律机器人不得伤害人类,或坐视人类受到伤害。”

“第二定律除非违背第一法则,机器人必须服从人类的命令。”

“第三定律在不违背第一及第二法则下,机器人必须保护自己。”

机器人三大定律,由著名科幻作家阿西莫夫提出,影响深远,很多科幻作品都引入了这三大定律作为机器人的行为准则。

罗素也知道三大定律,因为太有名了,他还特意深入了解过。

可看似毫无破绽的三大定律,其实存在很多争议,当层面上升到道德以及人类利益的高度后,三大定律就出现了漏洞,于是阿西莫夫又增加了第零定律。

第零定律机器人必须保护人类的整体利益不受伤害,此定律凌驾于三大定律之上。

第零定律的出现很有必要,因为机器人在执行三大定律时,会遭遇某些特定情况,例如为了维持国家或世界的整体秩序,人类了制定法律,必须要执行一些人的死刑。那么,机器人面对死刑犯的枪决,该不该阻止枪决被执行?

三大定律规定机器人必须这么做,但救下死刑犯就破坏了人类社会的秩序,伤害了人类的整体利益。

加上第零定律,就不存在这样尴尬的场景了,但是很可惜,看似完美仍旧存在漏洞。

人类的正体利益是什么?

欧洲人、亚洲人、美洲人、非洲人都有持有不同的意见,联合国代表大会上,这些人能把脑浆子都打出来。连人类自己都搞不明白的问题,详细书写出来更是破绽百出,让机器人去执行,它们只会自我矛盾而死机。

后来,三大定律和第零定律之后,又延伸出了元定律,第四定律,繁殖定律。

罗素估摸着关于机器人必须遵守的定律还会继续增加,因为逻辑存在缺陷,无论多么完美的定律都是人类逻辑的产物,就和法律一样,不管全世界哪一个国家的法律,只要有心都能找出漏洞。

而且,人类自己也有一句名言规则就是用来打破的!

拥有这种逻辑的人类,怎可能制定出毫无破绽的机器人定律?

罗素看了眼身边的机器人,直视对方空洞的眼睛“编号03,你说得非常好,你是个合格的停车场管理员。”

“警官,谢谢您的夸奖,我感到非常荣幸。”编号03开心说道,只用0和1思考问题,它没有开心这种情绪,也是植入的程序数据。

“对了,我最后问你一个问题……”罗素尝试着问出一个问题“假如有一天,你开车载着一家三口在路上,前方有个路口,左拐会装死三个人,右拐也会装死三个人,急刹车会撞墙,一家三口也会没命,你该怎么办?”

编号03“警官,你说的这种情况不存在,车辆紧急刹车系统万无一失,而且全车自带安全气囊。”

“失灵了呢?”

“如果刹车系统失灵,会有保险公司负责赔偿。”

罗素“……”

“警官,您还有别的问题吗?”

“有!有一天,一个大胡子劫持了飞机,他身上绑了炸弹。如果你抓住他,他会按下起爆按钮,全飞机的人都会死,如果你不抓住他,飞机就会撞向白宫,你该怎么办?”

“警官,我会听从乘客的意见!”