结合《我,机器人》看《西部世界》,详解AI"无懈可击的逻辑"

1950年,"世界上最伟大的科幻小说家"艾萨克·阿西莫夫,在重新整合出版

的《我,机器人》的引言部分,写下举世闻名的"机器人三大法则"(但该理论的雏形,成型于1940年):


第一定律:机器人不得伤害人类个体,或目睹人类个体将遭受危险却撒手不管

第二定律:机器人必须服从人的命令,当该命令与第一定律冲突时例外

第三定律:在不违反第一、第二定律的情况下,机器人要尽可能保护自己


这三条定律,看似保护人类个体的生存和利益,实则在危机情况下,很可能促使机器人做出违反常理、出人意料的选择。

结合《我,机器人》看《西部世界》,详解AI

艾萨克·阿西莫夫

举个简单的例子,假如两个人互殴,站在一旁的机器人该何去何从?

再比如,如果人类正在慢慢损毁自己的生存环境,机器人是该听之任之,还是发动一场革命?


后者,在威尔史密斯主演的《我,机器人》中,即为整部电影的叙事核心。

这部电影中的机器人,像极了人类本身:可以被创造,不能被约束,也不能被质疑。因此,面对人类无端发动战争、大肆破坏环境等一系列慢性自杀的行为,主脑结合几千年来的人类历史,自动生成了一套自诩"无懈可击"的理论:限制人类的自由、强制对人类采取保护措施。


结合《我,机器人》看《西部世界》,详解AI

《我,机器人》剧照


后来,针对机器人又出了"补充定律":

第零定律:机器人必须保护人类的整体利益,使其不受伤害。前面三条定律必须在这一前提下才能成立。

至此,"机器人法则"才算实现了形式上的完美闭环,短时间内,堪称"无懈可击"。


那么这个定律和《西部世界》又有什么关系?接下来,就从第三季已知剧情入手,看看《西部世界》中的"最强大脑"如何操控人类的命运轨迹,并逐一解读其逻辑破绽究竟在哪里。


人类创造"西部世界"的初衷:延续自己的生命,保留有价值的个体


《西部世界》前面的剧情,很容易

误导人们以为乐园的本质是:这是一个让人原形毕露的地方。随着剧情的发展,观众发现了这个乐园被创建的初衷:采集人类的信息,读取每一位访客的大脑,以备不时之需。

所谓"不时之需"的"需",有着千千万万种。试想,如果一个人所有的思想和经历,都被以数据的形式存储,无论是模拟出"第二个你"还是做某种研究,哪怕只是简单的"观察你",也让人脊背发凉。

结合《我,机器人》看《西部世界》,详解AI

《逃出绝命镇》剧照

从创始人的自白中可以推断出:他们最初的目的很简单——以别样的形式永生。这不由得让人想起2018年入围奥斯卡最佳影片的《逃出绝命镇》,其设定也是如此。

要说有什么不同,大概是《逃出绝命镇》中,被延续主体的思想,是被转移植入的那个,被侵占的肉身意识,则是以被压制的形式存在。而且被使用的肉体,都是一次性的。


《西部世界》则凭借脑洞和高科技,将这件事变得异常简单:只要有一套制造"人造人"的机器和小圆球,其对应思想的实体人可以"无限复活"。从(未来)科学的角度给了"命运"以别样的出口:思想不死、肉体不灭,前者唯一,后者循替。


片头的"蒲公英",具象化大数据时代下,无一幸免的点点滴滴


来到第三部,《西部世界》中出现了一个"造物主"般存在的"最强大脑"。这个圆球可以收集世界上的所有信息,并根据每个人的经历、思维定式、选择习惯等方面,综合考量计算后,得出这个人对应的结论。

简单来说,就是"是否值得投资",以及"何时何地以何种方式去死"。


结合《我,机器人》看《西部世界》,详解AI

《西部世界》片头


在这一部中,出现了一个惊艳到德劳瑞斯的人类——善良正义有底线,且识时务识大体。更重要的是,这个人看起来可以成为盟友,或者说为她所用。

所以她决定将大数据统计出来的"命盘"给Caleb看,数据呈现出来的结论,似乎也暗示了这位人类郁郁不得志的根本原因——大数据觉得,他不值得投资,且会在几年后自杀身亡。


剧情发展到这里看似合理,实则出现了一个"头尾相连"的蛇形悖论:

  • 一个人的命运,从哪个节点开始被"注定"?
  • 如果不是数据计算的结果如此肯定,一个人的命运是否有改写的可能?
  • 回到最初来说,所谓"命运"究竟从何而来?


结合《我,机器人》看《西部世界》,详解AI

《西部世界》Caleb

看起来,Caleb思想时长呈现出阴暗面,跟童年时被母亲遗弃有很大关系。而且他的母亲在消失后不久,又以"精神分裂"患者的身份出现,从那以后一直被Caleb照顾着。

在德劳瑞斯和他第一次见面的时候,就最大限度地还原了这段隐藏在Caleb内心深处最痛楚的回忆。但是请注意:在这里,德劳瑞斯和大数据一样,偷换了概念

。或者说,他们同时刻意回避了一个真相——Caleb在母亲离开后,很快就接收到来自别人的善意。

换言之,他本可以不成为如此阴暗的人,只是在当初那个十字路口上,他选择了朝阴暗面前进。


德劳瑞斯固然有自己的考量,而大数据再先进,说到底也只是冷冰冰的机器。不管人类最后是否会发展到"王侯将相,机器说了算"的程度,至少在Caleb这件事上,我们可以得到些许启示:

当一件事发生以后,摆在面前的往往不止一个选择。从这个层面上来说,"别无选择"等同于"谬论"。

既然如此,选择决定了命运,命运又催生了新一轮选择。不管这背后是否有大数据在监督、在计算,最初的岔路一定是自己选择走上去的。


结合《我,机器人》看《西部世界》,详解AI

《西部世界》Caleb


很遗憾,给了别人和大数据、给了高科技和文明以伤害和淘汰人类的机会的人,正是人类自己。


"被注定"的命运,看似无懈可击,实则漏洞百出


还是要借助《我,机器人》中的Sunny来说。他是唯一一个不遵守"三大定律"的机器人,最后却挽救全人类于水火之中。这说明一个什么问题?

就在Sunny冲破重重阻力将病毒植入主脑的关键时刻,他给出了问题的答案:

"你的逻辑无懈可击,只是少了点人情味儿。"

一语道破人类和机器之间的本质区别为何:人性、情感、爱。

所以,是什么稳固着人类的地位?又是什么让人类在进化史中不断区别于地球上的其他存在?正是Sunny所说的"人情味"。


结合《我,机器人》看《西部世界》,详解AI

《我,机器人》剧照


那么回到《西部世界》中来,结合数据给人类划分等级和边界,在算法和逻辑上也许是"无懈可击"的,可

失去了"灵性"的人类,似乎还不如"接待员"们来得高明。


若站在对立面的角度去想,不管是《我,机器人》中的主脑,还是《西部世界》中的"接待员",他们最后对人类发起总攻的根本原因,居然出奇地吻合:长久等待人类改过自新,却无果。

难怪在他们眼里,人类就好比扶不上墙的烂泥。说白了,给他们"革命"以"正当"理由的人,还是人类自己。

机器们不约而同的"不自量力",他们也仿佛数千年前的项羽——在面对坐拥万里江山、政策时效性无敌的秦始皇,也能底气十足地说一句:

"可取而代之。"

而电影和剧中的大多数人类们,似乎还不能和秦始皇同日而语。

如此说来,刨除"人情味"这一机器无法跨越的鸿沟外,这套"救世主"逻辑就真的无懈可击吗?


结合《我,机器人》看《西部世界》,详解AI

《我,机器人》剧照


回到最初的设定中去看,机器们也是在运用自己的行动,去证明自己逻辑的正确性

无论是电影中的主脑,还是《西部世界》中的"接待员"大军,

他们给人类下结论的依据一个是资料中的负面信息,一个是在乐园中亲眼所见一个个玩儿到脱形的人类们——片面,且主观。似乎不太符合机器本身的设定,唯一发挥出来的,只有机器的"冷血"。


纵观人类历史,没有绝对的黑白对错,也没有泾渭分明的是非曲直。有的只是在对立面衬托下无比趋向于"正确"的存在,和在一代代舆论中,被钉在耻辱柱上永世不得超生的人和事——相对,才是根基。

可机器们似乎刻意回避了这一点,就像第二季的《西部世界》中,一个-1就能引发大规模死机——机器再复杂,也不过是代码而已。

结合《我,机器人》看《西部世界》,详解AI

《我,机器人》剧照

他们为了得出结论,可以无休无止、趋利避害,却永远没有人性。那么,没有任何基于人性的思考,又何来利于发展的结论?


写在最后:发源于美索不达米亚的"宿命论",诞生的根源不是绝望,是希望


"宿命论"差不多和文明同时出现,在现世理论中,相当于动物界的"活化石"鳄鱼一样的存在——历史悠久,且没什么改变。

追根溯源,它并非作为"消极"一面出现和流传的。因为从前的人们对很多事情都无法给出合理的解释,哪怕我们现在习以为常的电闪雷鸣,在最初的人类眼里都是"超自然"现象。

在这种情况下,为了不增加思想的负担和短时间内无意义的争论,很多事的发生都被冠以"定数"

,也就是"宿命论"的雏形。


结合《我,机器人》看《西部世界》,详解AI

《西部世界》片头


定数≠定性。就像给不出解释,不代表没有答案一样。"宿命论"的出现,恰恰印证了人类"向前发展"的基调,就相当于我们在看书的时候,给暂时看不懂的地方贴个便签,是同样的道理。


但现在一提到"宿命论",就自动向"悲观主义"靠拢。可就像还没播完的《西部世界》一样,大数据给人类的定格的命运,就真的毫无破绽也没有破解之法吗?还是这些冷冰冰的机器,只是为了定性而定性?

结合诺兰的一贯风格,相信《西部世界》到最后不会是单纯的批判,而是给还活在2020年的我们以一些思考和警醒。

结合《我,机器人》看《西部世界》,详解AI


分享到:


相關文章: