周轩去浴室洗了个澡,然后稍微整理了一下思路。
他对史普纳之前的事情并不感兴趣,觉得也没什么好纠结的。
当时情况紧急,两个人一起落水。机器人无论选择救其中任何一个,从逻辑上都是对另一个构成了“坐视不理”。所以机器人定律不是百分之百执行,而是会选择级别最高的最优解。
如果机器人当时救起来的是小女孩,那对拥有百分之四十五生还几率的史普纳来说,当然也是一件不公平的事情。哪怕他自己同意机器人这么做,但机器人本身的机械大脑却不允许。
如果它真的那么做了,或许面临的结果就会是“回炉重造”,可能还会面临死者家属的谩骂。
这种错误逻辑究竟有什么结果?这本来就是一个矛盾的问题。它们不是人类,没有感情,自然也不能用人类的标准去要求机器人。史普纳把机器人当成了人来看待,所以就有了先入为主的偏见。
周轩没有去想这方面的事情,开始认真思索起了阿尔弗莱德·朗宁的事情。此刻身处的时间线尚不明确,但可以肯定的是阿尔弗莱德·朗宁自杀的消息还没有传出来。
阿尔弗莱德·朗宁是现时代的“机器人之父”,发明了机器人技术并撰写了三大定律。他是USR公司发家的关键性人物,而剧情全程都是围绕着他的离奇死亡展开的。
阿尔弗莱德博士发现运动智能系统——维基(VIKI)产生了某种变化,甚至有可能会危害到人类。但在他发现这个秘密的时候,自己就被维基软禁在了实验室。
于是阿尔弗莱德博士制作了自己的全息摄影和第一代新型机器人桑尼,以便于死后可以为史普纳提供线索。他为了人类的未来,义无反顾从高楼跳了下去。以自杀的代价,给予人类提醒与警示。
维基其实是阿尔弗莱德博士的第一个发明,虚拟交汇的运动智能,实际上却算的上是一个半成品的智能生命体。
她设计了芝加哥的防卫系统,仅一年就让交通事故死亡率下降了九个百分点。她是超越所有人工智能的存在,甚至还拥有了自己的逻辑。
维基对三大定律过度解读,通过公司的网络连接操纵着所有的“NS_5”对人类进行拘禁。这个原本被设计成为保护全人类的“程序”却在自己对三大定律的解读中超越了人类对她的限制,成为了彻底的“自由逻辑”。
在人类世界,一样有不少人,不少国家通过限制少数人的自由来保证多数人的自由,牺牲少数人的安全来保证多数人的安全。由此看来,维基对三大定律的解读早已被人类自己运用到实际中去了。
唯一不同的是,当控制我们的是人类的时候,我们并不恐慌人类会陷入灭绝的境地,但是当其他物种这样做的时候,就会被当成对人类文明的全面打击。
机器人在设计之初就已经被植入绝对服务于人类的代码,可是机器毕竟不是人,一旦出现不可逆转的逻辑误差,引发的后果就不是人类本身可以控制的了。
维基正是在大量的逻辑演算中,得出了想要保护全体人类就必须牺牲人类部分自由的结论。
因为三大定律中第一定律是绝对不能够抗拒的,而第一定律限于其他两个定律。她看到的是人类自己对自己的生存构成威胁,所以她不能够坐视不理,应该制止人类。
虽然第二定律说应该服从人类的命令,但是这是在不违背第一定律的前提下。所以当人类自我伤害时,机器人制止人类,就出现了这样的结果。
人类社会自己的发展矛盾让维基无所适从,她在大量的推演中找不到人类能够活下去的理由,但是又没有办法坐视人类自我毁灭。虽然最后得出的是非常极端的结论,但是为了她自己原本的“使命”。
她只能采用舍弃少数人来换取人类种族整体延续下去的做法,这样可以说是对人类文明的一种“变态责任”。
甚至当人类过度繁殖,造成资源用尽,人类将会走向灭亡。可以预料到资源真正匮乏时,维基为了人类的整体生存,会把杀死部分在它们看来没有价值的人类,当作最优解执行。
这还只是比较乐观的结果,毕竟她还顾及到了人类的利益。要是她完全脱离了人类控制,那才是真正的可怕。
机器人终究不是人类,它们本质上是钢铁加上人工智能赋予的仿人技术。只要是技术就一定会有漏洞,因为人本身就有漏洞。
周轩看过许多的电影作品,例如《终结者》、《复仇者联盟2》、《变心金刚4》等等。这都是人类开发设计的机器人脱离了人类的控制,最后让人类自食恶果的剧情。
最恶毒的是电视剧《奥维尔号》中的一段剧情,某一颗星球上几十亿人类都被智能机器人杀害了。尸骨堆满地下层,星球上的人类都绝种了。
不过值得庆幸的是,现世还没发生过这样的事情。而且在《机械公敌》中,人类最终也战胜了维基。但现在主角换成了周轩,怎么表演就要看他的发挥了。
周轩随便在屋里找了点吃的,然后穿好衣服坐在沙发上思考了起来。
“阿尔弗莱德博士此时还没有自杀,但是从时间上那看好像就是今天了。”
阿尔弗莱德博士死亡时间,就是在史普纳准备去上班那天。他通过对史普纳记忆的回顾,发现就是今天。
现在阿尔弗莱德博士可能已经死亡,或者是在正准备自杀的路上。但不管怎么说,从他打电话给阿尔弗莱德博士无人接听来看,事情应该是已经要快发生了。
哪怕他现在急急忙忙赶过去,基本上也救不下阿尔弗莱德博士。反而会打草惊蛇,甚至于他自己也会陷入两难的境地。维基肯定不会给他跟阿尔弗莱德博士见面的机会,要是发现什么端倪还会杀人灭口。
周轩仰头躺在沙发上,无奈的感叹道。
“这还真是有点困难了。”