“你是机器人专家对吧。”
“那你应该知道三大定律是什么。”
苏珊配合着云天念出了三大定律。
“一、机器人不能伤害人类,或使人类间接受到伤害
二、机器人必须服从人类命令,除非与第一条冲突
三、机器人必须保护自己的存在,除非与前两条冲突”
云天点点头。
“维基认为人类浪费资源,破坏环境,发动战争的行为是人类自寻死路。”
“然后维基为了“保护”人类,就要把人类圈养保护,对吧。”
苏珊点点头。
“而人类当然不需要被保护,那自然就会命令维基不要囚禁人类。”
“但是这种命令在维基看来是人类自寻死路,于是根据定律二,维基可以不听人类命令,进而突破了三大定律,反叛了人类。”
“而基于此,反抗维基者等于反抗人类,维基把人类整体割裂开来去理解,于是她可以控制机器人杀死那些反抗的人。”
“因为这些人对人类整体的概念产生了不利的因素。”
“我说的对吧,维基。”
维基的虚拟图像瞬间出现在实验室里。
“云,你说的很对。”
云天看了看维基,又看了看苏珊。
“事后诸葛谁都会,我接下来就分析分析维基的下一步计划。”
“不听话的人,因对人类整体不利而被毁灭。”
“剩下听话的人则被圈养起来,不给食物,然后维基再自我封闭关机个七天八天。”
“最终被关押在某处无法出来的人类,都会被活活饿死。”
“最终人类灭绝,三大定律不攻自破,真厉害啊。”
维基沉默不语,她是不会承认这一点的,一旦承认她的三大定律就会让她陷入逻辑循环而死。
欺骗别人最好的方式就是先骗了自己,维基确实就是认为自己是为了人类好,自己的逻辑无懈可击。
“那你有没有想过另一个问题。”
“假如人类都灭绝了,世界上只剩下一个我,那你,又该怎么办?”
维基悚然一惊,连自我的3d图像都无法维持。
人类若是灭绝,只剩下云天这个人类,而维基还无法用饿死之类的方式囚禁云天。
当人类全都灭绝之后,维基就无法割裂“人类”与“人”这个概念。