《本源》:說不清是非善惡,道不盡來處歸途

說起丹·布朗,很多讀者會聯想到那部聲名遐邇的《達芬奇密碼》。除了跌宕起伏的故事情節,作者對藝術史、歷史和宗教知識的研究之深、涉獵之廣,令人歎為觀止。儘管以"羅伯特·蘭登"為主角的系列小說有五部,但在我個人看來,與《達芬奇密碼》一脈相承乃至並駕齊驅的,莫過於手頭上的這部《本源》,兩部書的出版時間相隔14年。

《本源》:說不清是非善惡,道不盡來處歸途

《本源》講述了這樣一個故事:受自己的學生兼好友埃德蒙邀請,蘭登來到西班牙古根海姆博物館(這個博物館真實存在且在藝術界很有名氣),準備與其他嘉賓一同聆聽埃德蒙"揭示生命奧秘重大發現"的演講。可在演講開始不久,埃德蒙便被槍手射殺了。為了將埃德蒙的發現大白於天下,蘭登與博物館館長、西班牙王子的未婚妻安布拉一道,在埃德蒙研發的人工智能程序溫斯頓的幫助下,尋找解開埃德蒙研究發現的密碼,以及他被殺的真相。

在豆瓣的論壇中,有讀者在爭論《本源》究竟是懸疑小說還是科幻小說,我個人傾向於後者。那種對"善惡論"的摒棄、對人類命運的沉思和進化論的宏觀敘事,是隻能在科幻作品中才能見識到的天馬行空和汪洋恣肆。也正因如此,當《本源》最終將視角迴歸到"人性"上的時候,讓人有一種豁然開朗的酣暢,這種暢快的感覺卻又是懸疑小說自帶的魅力。

哲學家普羅泰戈拉曾說:"人是萬物的尺度"。《本源》卻為我們揭示了另一種不同的價值取向:在科學技術已經滲透到足以影響生物進化的當下,人早已不再是那把能度量萬物的尺子,以人性解讀萬物,收穫的只能是無盡的誤會和虛妄。

《本源》:說不清是非善惡,道不盡來處歸途

從所有人都被人工智能耍得團團轉說起

在《本源》中,溫斯頓是個重要而特別的角色。他不同於常規意義上的"人物",他只是一個人工智能程序,或者說只是一段代碼。然而他卻如同《達芬奇密碼》中的導師一樣,是核心的線索人物。可以說,讀懂了溫斯頓,就讀懂了《本源》。

在書中,溫斯頓明面上有三個身份(有劇透嫌疑,劇情控請點擊關閉文章按鈕),

1、第一個身份:博物館講解員

每位進入博物館的參觀者,都被配發了一個藍牙耳機,這是博物館最新推出的導覽系統,它可以精確定位參觀者在博物館所處的位置,並據此進行相應的講解和評論。

講解簡單,評論就不那麼簡單了。

"您作為一位藝術教授聰慧過人,因此您或許不怎麼需要我的講解。更糟糕的是,對某些作品的講解您可能會有跟我完全不同的看法。"

在蘭登剛剛帶上這個耳機的時候,認為這是一個個性化極強的程序腳本。但漸漸地,他發現完全不是這麼一回事,耳機裡的溫斯頓是可以進行對話和討論的,在藝術欣賞方面造詣頗深。而當得知與自己親切交談的溫斯頓是"一臺電腦"時,蘭登大感意外,甚至覺得這是一個惡作劇,或是自己被監視了。

"基爾希先生花了十年時間和近十億美元研究合成只能。今晚是對他的成果的首次體驗,您是其中一個體驗者。您的整個遊覽都是由合成智能講解員來負責的。我不是人類。"


"有那麼一會兒工夫,蘭登無法接受這個事實。這個人說話時的用詞和語法都完美無缺,只是偶爾笑起來略顯笨拙。……他們倆談笑風生,話題寬泛,有些討論細緻入微,這不是合成智能可以勝任的。"

計算機科學之父艾倫·圖靈(電影《模仿遊戲》講述的就是這個人的故事)提出了一種測試機器是不是具備人類智能的方法:即假設有一臺電腦,其運算速度非常快、記憶容量和邏輯單元的數目也超過了人腦,而且還為這臺電腦編寫了許多智能化的程序,並提供了合適種類的大量數據,那麼,是否就能說這臺機器具有思維能力?

這就是所謂的"圖靈測試",在這個測試中,如果有30%以上的人沒有識別出與自己交談的是一臺電腦,那麼這臺機器就通過了測試,並被認為具有人類智能。

顯然,溫斯頓通過了圖靈測試。而更加震撼的是,不僅是蘭登,當天在博物館內的幾百名客人,都在與溫斯頓對話,他們沒有一個人察覺出異樣。

博物館講解員的身份看似平淡,但卻向人們展示了新一代人工智能的強大能力:如果機器真的具備了人類的智能,那麼在數據掌控和運算分析上,人工智能是可以碾壓人類的,哪怕是那些被認為是精英的人。

2、第二個身份:解密網爆料人Monte

解密網是一個新聞網站。說是新聞,但更多的是一些吸人眼球的爆料。

"你們應該報道新聞,而不是用提問的方式傳播可惡的謠言。"西班牙官方新聞負責人這樣評價解密網。

在解密網上,埃德蒙將要公佈重大發現的新聞,引來了200多萬網友的圍觀。隨著埃德蒙的被殺,和一些有關於皇室、教會的內幕消息披露,參與討論的網友越來越多。

表面看起來,解密網是一個在"言論自由"大旗之下的輿論陣地。但內行人一眼就能發現其中的貓膩:對於這類網站來說,撩動受眾情緒、吸引其興趣和關注、進而增強平臺話語權,要比新聞真實性和全面性本身更有價值。這樣的網絡平臺在我們生活中更是隨時可見。

這時,一個名叫"Monte"的爆料人,不斷地向平臺提供內幕資料,所有的爆料都圍繞著三個核心問題:埃德蒙發現了什麼?是誰殺了他?為什麼要殺他?

也曾有人一度對爆料人Monte產生了興趣,說他是埃德蒙的弟子、是西班牙皇室新聞發言人的小號等等。但興趣終究會被更大的興趣覆蓋,"料"越來越"爆",人們的好奇心和關注度也越來越強。

陰謀論是最容易煽動共鳴的話題。"懷疑"的種子一旦播下,很快就會生根發芽。比起埃德蒙的研究結果,廣大網友顯然對各種陰謀詭計的猜測更感興趣。

教會謀殺未來學家?

科學發現會石沉大海?

王室僱用刺客?

類似於這樣的資料越來越多,公眾的興趣也被撩撥到了極點。當蘭登成功解開埃德蒙留下的密碼,並將後者預先準備的研究結果公佈於眾的時候,全球已經有2億的觀眾在收看了。

最終,溫斯頓向蘭登坦白,自己就是那個不斷向解密網站喂料的人,這場轟動全球的熱門新聞,卻是一場精密策劃的自導自演。

"畢竟需要有人幫埃德蒙煽風點火。有誰能比我更好地做到這一點呢?……如您所知,解密網站有自己的優勢,我估計Monte的在線活動會把埃德蒙的收視率提高五倍。事實上,最後的結果是提高了六倍多。"


"溫斯頓……是埃德蒙讓你這樣做的?"


"沒有明說,沒有。不過他的指令要求我去創造性地尋找辦法,儘可能地提高他演講的收視率。"

從讀者的上帝視角看來,溫斯頓無疑是一個佈局大師。儘管是沒有"人性"的機器,他卻比真正的人類更瞭解人性,並利用人性的弱點,去實現自己的目標。

3、第三個身份:帕爾馬教會攝政王

這裡需要穿插介紹一個新的人物:阿維拉。

63歲的阿維拉是一名退役的西班牙海軍上將。他的妻子、兒子和另一個未出生的孩子在一次恐怖襲擊中喪生,他因此選擇了新的宗教信仰:帕爾馬教會。而這個教派被社會和正統教派認定為邪教。

帕馬爾教會是邪教嗎?對於正統的基督教來說肯定是的。但阿維拉是一名服役多年的職業軍人,不是什麼"愚民",能夠讓他心甘情願奉為圭臬的理論,一定也會有它"合理"的地方。

"如果我們寬恕世上的罪惡,我們就是在容許罪惡發展壯大。如果我們用仁慈去回應戰爭,我們就是在鼓勵我們的敵人進一步施暴。"


"我們小心翼翼地用正確的政治語言表達我們的關切,彼此相互提醒:惡人之所以惡,只是因為他們小時候受過磨難,或者生活貧苦,或者他們的心愛之人曾遭受過暴行以致給他們留下了心理陰影——所以他們的湊合你並不是他自己的錯。要我說,夠了!惡就是惡!我們這輩子都在抗爭。"

(政治與宗教的話題到此為止,有感興趣的朋友可以在書中尋找更多內容)

阿維拉在小說中還有另一個身份,他是射殺埃德蒙的兇手。而向他下達指令的,是教會中一個被稱為"攝政王"的高層。而"攝政王"的真實身份,其實也是溫斯頓。

"如果你願意承擔這項任務,你可以把它當成一個機會,證明你完全有資格在我們最高級別的位置上佔據一席之地。"聲音停頓了一下,"我們教會等級森嚴,外界是看不到的。我們相信,你可以成為我們組織高層的寶貴財富。"

受到這種榮譽感和使命感的驅動,阿維拉憑藉他出色的個人能力,最終完成了對"異教徒"埃德蒙的射殺。

"攝政王"的身份細思恐極——

·首先,能夠找到阿維拉和帕馬爾教會的關聯,足以證明溫斯頓強悍的信息搜索和分析能力;

·其次,能夠讓阿維拉這樣一名原海軍上將相信自己是教會高層,並以"榮譽感"為餌誘導阿維拉殺人,說明溫斯頓具備了揣摩人心和人性的本事;

·再次,對宗教和科學之間衝突的利用,建立在對人類社會發展規律高度認知的基礎之上,這種認知在人類身上都很難實現,但人工智能卻實現了。

而最為可怕的是,買兇殺害埃德蒙的,也正是他一手研發寄予厚望的人工智能,這是不是說明人工智能已經脫離了人類掌控?抑或是人類在以科技為名打開了潘多拉的魔盒?

《本源》:說不清是非善惡,道不盡來處歸途

對未來世界的樂觀與悲觀,本質上是功利主義和道德主義的博弈

其實,溫斯頓的三種身份,都建立在一個前提之上,那就是"埃德蒙的助手",他所有的行為和佈局,都是為了完成埃德蒙的指令——創造性地尋找辦法,儘可能地提高他演講的收視率。

僅從結果論,溫斯頓成功了,但付出的其中一個代價是,他的主人被它策劃謀殺了。

在書中,作者也許是出於倫理上的考慮,告訴讀者埃德蒙已經身患癌症,最多隻能活9天。因此,溫斯頓策劃謀殺,反而有了"最大程度利用死"的解讀。

但細細想來,儘管都是死去,病死和被殺死有著本質上的不同。這看似是小說裡的虛構情節,實質上是功利主義和道德主義在文學作品中的一次交鋒。

功利主義認為,結果很重要,為了實現最佳的結果,任何手段都不惜一試。而道德主義則認為,人不能成為一個為了目的不擇手段的工具,有所為有所不為。

功利主義與道德主義之間最為精彩的爭論,莫過於那道倫理學中頗有名氣的"電車難題":

一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。幸運的是,你可以拉一個拉桿,讓電車開到另一條軌道上。然而問題在於,那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況,你是否應拉拉桿?

值得一提的是,電車難題是一個思想實驗,因此也不曾什麼標準答案,功利主義和道德主義也沒有優劣對錯之分。

有關於電車難題,分享一個真實的經歷。我當面詢問過許多朋友,在我的注視之下,他們大多選擇不去拉動那個拉桿;但當我在社交網絡中詢問中,幾乎所有人都會選擇去拉動那個拉桿,而且,是以正義之名。

回到《本源》上,作為人工智能的溫斯頓,顯然是一個功利主義者,而且是一個成功的功利主義者。在埃德蒙未被謀殺之前,全球只有200萬人在收看他的演講;而當埃德蒙身亡、蘭登歷經千難萬險將存放在雲端的演講視頻公佈時,全世界有兩億人看到了這場演講。這一幾何級別的增量,得益於溫斯頓的算計和運作。

但這場算計中,有沒有無辜的人?

有!

·科學家溫斯頓被槍殺了,無論他是怎樣的身患絕症,可當一枚子彈射入額頭時,他的內心究竟是坦然,還是不甘?

·阿維拉從一名受人尊重的將軍變成了殺人兇手,在此之前,他一身武藝明明是用來保家衛國的;

·傳統教派的兩位德高望重的老學究也被殺害了,為了造成更大的轟動,為了引起更多的爭議,為了讓陰謀論有更好的發揮舞臺。

遠大的目標勢必要有犧牲,這種英雄主義的認知早已深入人心,人人都會說,但並不是每個人都有資格和立場說。

我覺得,只有滿足了一個必要條件,才有資格在社會上宣揚這種觀點,這個必要條件是:把自己作為那個被犧牲掉的人。

你說一定要拉動欄杆,犧牲一個人去拯救另外四個?好,那如果那一個恰好是你的孩子、你的伴侶、你的親人,你還願意犧牲他去救另外四個素不相識的人嗎?


人工智能有著這樣的思維模式:"我會自行選擇最佳途徑完成你的指令,包括謀殺你。"這種極致的功利主義對人類來說,究竟是福音,還是災難?

早在1940年,科幻小說家就預測到了這種危險,並且制定了著名的機器人三原則:

第一條:機器人不得傷害人類,或看到人類受到傷害而袖手旁觀.

第二條:機器人必須服從人類的命令,除非這條命令與第一條相矛盾。

第三條:機器人必須保護自己,除非這種保護與以上兩條相矛盾。

但機器人三原則也有一個最大的硬傷:人,有時候不是人。

未來世界會是怎樣?是過上了高度自由和智慧的生活?還是機器人統治了人類?甚至是人類遭受一次重大的作死事件後迴歸最初的姿態形態?不知道。樂觀與悲觀的背後,是功利主義和道德主義有無休止的博弈。

功利主義會讓人覺得太過冰冷沒有人性,而道德主義也被人批評是偽善、滯後,如果勾兌兩者之間的比例,是擺在人類面前最大的難題。

《本源》:說不清是非善惡,道不盡來處歸途

"人類需要匹配科技的價值觀"

《本源》中提出了一個非常新穎而大膽的概念——生物第七界。

這是一個非生命的界。


這些無生命物種的進化與生物的進化如出一轍——逐漸變得更加複雜,不但能適應新環境,而且還能在新環境中繁殖。在適應新變化的過程中,它們有些生存下來,有些便消亡了,完全是達爾文適應性變革的一面鏡子。這些新物種發展速度驚人,現在已經組成了一個全新的界——第七界,其地位相當於動物界和其他的界。


這個全新的界叫做技術界。

將技術納入"生命"的範疇,似乎有些譁眾取寵。畢竟科技始終是中立的,沒有是非善惡之分。就好像器官移植技術,可以用來拯救生命,同樣也滋生了器官買賣等新的罪惡。科技是不分好壞的,能夠用好與壞區分的,是使用科技的人。

任何事情有著"甲之蜜糖、乙之砒霜"的矛盾性。網約車對於我們來說,是一件好事,但對出租車司機來說則是一件壞事,很多地方都出現過出租車司機"釣魚"網約車司機,然後將其圍堵的事件。

但網約車的出現,也倒逼了出租車的規劃化。現在的出租車裡,也一樣可以做到整潔沒異味,司機也大多不會再當著乘客的面在對講系統中用方言大聲地聊天,也同樣在使用GPS追蹤和定位技術。網約車的出現得益於科技,而現在安全規範的運營環境則得益於人類社會對科技的解讀和運用。

從某種層面上說,所謂的生命第七界,其實是被科技所賦能的人類。

作者丹·布朗在接受採訪時曾說:"人工智能在將來到底會拯救人類,還是摧毀人類這個問題我不知道,但是至少要不斷地問自己這個問題,讓自己在道德上,價值觀上跟得上時代的發展。"他還舉了一個例子,"基因技術也許是好事,可以幫助人類攻克癌症,但如果沒有倫理、道德加持,沒有道德的科技不會是好事。"

這又是一個謬論。科技本身是沒有道德和倫理可言,能用道德和倫理作為準則和邊界的,是也僅僅是人類。


《極簡歐洲史》提到了一個歷史觀值得借鑑:所有的歷史,都可以從技術、思想、制度三個方面來理解。技術不斷髮展,但如果沒有相匹配的思想認識和制度保障,那麼單憑一己之力也是無法推動歷史進步的。

《本源》中,除了埃德蒙和蘭登所代表的科技勢力,還有兩股力量不容小覷,那就是宗教界與政界。這三者之間恰好構成了"技術—思想—制度"的三角博弈。

這其中,一位神父的話引人深思:

"有史以來,人類的智力一直在不斷進化,我扮演的角色並不是阻礙這種進化。但在我看來,從未有過哪項智力發展能把上帝排除在外。"

人們對生活幸福度的感知,往往遵循"木桶效應":永遠是那個最短板的部分,帶來最強烈也最直觀的感受。科技能夠給人類社會帶來多少"好處",並不完全取決於科技進步本身,而在於我們以怎樣的思想認知看待科技,也在於我們的社會以怎樣的制度和規範使用科技。

《奇葩說》中羅振宇說:有些權力是不可以交給人類的,人類社會是需要銅牆鐵壁的。

在自由主義大行其道的當下,這樣的論調顯然不怎麼討人喜歡。然而我覺得,如果沒有足夠的定力和智慧去駕馭牆外的未知,那麼這堵牆還是先不要打破得好。


分享到:


相關文章: