為了保持社會的穩定，普通人將被繭式算法自我限定。就像《西部世界》中的卡萊布，算法將其限定在底層，不斷受到挫敗，而無法獲得階層躍遷的機會。這就像以往社會對奴隸、對農奴、對佃農的束縛一樣。只不過這回不是法律、倫常或禮法，而是算法。
赫拉利說過，在未來控制算法的是“神人”，而普通人則被算法統治。但是赫拉利只是拋出了這個概念，並沒有詳細對這個“神人之法”進行闡釋。
熱播的美劇《西部世界》正好展現了這樣一個場景：該劇講述了由一座巨型高科技以西部世界為主題的成人樂園，提供給遊客殺戮與性慾的滿足，隨著接待員有了自主意識和思維，他們開始懷疑這個世界的本質，進而覺醒並反抗人類的故事。而在最新的第三季裡，機器人叛亂並逃出西部世界主題樂園，來到真實世界。
《西部世界》被稱為是近年來“最費解和複雜的科幻劇集”。其實，這部劇恰恰就是構建了一個“神人執法”的背景。在這裡，我們必須承認“神人”還是人，與人工智能還不一樣，雖然這兩者的界限正在模糊，但是正是由於算法的發展，人工智能也在崛起，甚至還有可能想要“奪權”，至少是追求與人類平等的地位。
被“算法”決定的世界
在《西部世界》第一季的一開始，德洛麗絲正如往日一樣，清晨時分，從夢中醒來，迎接一天美好的開始。她向父親艾伯納西道別，然後出門寫生，再到小鎮轉悠，並遇見了她的愛人泰迪。兩人騎著馬在草原上馳騁，談天說地，直到晚上，泰迪把德洛麗絲送回她的家。然而回到家時，德洛麗絲卻看見父母被土匪殘忍殺害。泰迪立刻出手把兩個土匪擊斃，可惜父母親已回天乏術。一位黑衣人突然出現，傲慢地告訴泰迪，他是“新住民”，泰迪傷害不了自己，但泰迪他們卻可以任由“新住民”隨意處置。第二天，德洛麗絲從睡夢中醒來，又開始新的一天，一如既往地重複著之前發生過的事情。
這種畫面的衝擊感是無與倫比的，充分展示了一個被“神人”控制的世界。
麥克盧漢說過媒介即信息，說的是傳播渠道的改變還會影響內容的表達。比如文字語言的抽象表達能力更強，這是電視難以具備的，但是畫面的內容更容易理解，有著強大視覺衝擊。形式的特質影響甚至決定了內容。
神人之法和目前成文法或案例法均不同，最大的特點就是它捨棄了人的裁量和判斷。將那種需要人性理解和自由裁量的微妙信息予以定量計算，從而直接得出結論。
當然算法絕不是這麼簡單，這裡邊有概率估算和量子計算的精妙算法，絕不是簡單的加減乘除。事實上，人類意識所誤以為的感覺其實也是大腦在生物意義的計算，人類意識也是湧現的產出。因此算法可以對大腦計算模式進行模擬，並且加入人腦所無法承載的海量數據和邏輯，並且不斷迭代，最後計算方式可能與人腦產生很大的不同。
這就產生了目前法律體系一個不同點，那就是處理結果的即時性。這很像現在的交通執法，攝像頭抓拍，也是立竿見影。只是還允許一定的申訴程序，但是很多時候也都是人通過APP交罰款，自行處理。
這種執法方式在神人之法中將普遍推行。因為信息監控將更加無死角化，除了影像、聲音、生物體徵都將被廣泛收集，更不要說無所不在的網絡及其流轉的信息。
網絡的普及也將是一個監控普及的過程。以往不是沒有監控，只是算法不強大分析不過來，但是很快就可以通過算力的提高和算法的優化解決。
就像《西部世界》那臺超級計算機羅波安，它可以掌控全球任何一個角落的動態。當然它表現的是提示，需要人類再進行核實。這主要的原因是這個超級計算機還沒有獨立的意識，還不能完全自主地展開行動。另外，也由於人類行為和心智的複雜性，超級計算機還不能完全理解。也就是人還有不可替代性。但是這種不可替代性，正在逐漸減少。
處於被算法管制的人，將失去很多自主選擇的權利。
普通人將通過積分被控制、被量化，而積分規則由系統設定。系統總體規則由神人設定。但是至於細枝末節則由系統自主進行完善。為了保持社會的穩定，普通人將被繭式算法自我限定。就像《西部世界》中的卡萊布，算法將其限定在底層，不斷受到挫敗，而無法獲得階層躍遷的機會。這就像以往社會對奴隸、對農奴、對佃農的束縛一樣。只不過這回不是法律、倫常或禮法，而是算法。
而算法之妙就在於你以為你是在選擇，其實你只是生活在自己構建的世界之中，就像算法化的新聞推送和短視頻推送一樣。只是根據你自己的喜好進行推送，再推送，相當於自己親手編織了認知之繭，永遠也別想破殼而出。
而這種算法還將施加於人生選擇和日常生活，從而確保各安其分。神人是個極端精英化的階層，絕對排斥競爭。這就像商業壟斷，只不過這次是算法壟斷。因為算法之間也存在競爭關係，算法是規則體系，而規則才是最大的利益。算法通過競爭最終都將逐漸獲得壟斷權。這也像現在的互聯網公司，如果不能獲得一個行業細分的壟斷地位，就很難獲得利潤。所以維持超級穩定性是神人之法的追求目標。
而保持不確定社會的超級穩定性，比如極大地提升司法效率，有事必須立馬處理，立法沒有結論，速裁程序的速度已經遠遠無法滿足需求。實體法與程序法將逐漸合二為一。每一個算法設置都是實體與程序相結合的。就比如辦案系統，它可以自己執行規則。
更不要說強大的互聯網平臺。很多審核機制都是由系統運行的。它的實體判斷和程序過程是融合在一起的。判斷哪一個短視頻要如何推送，都是系統在一念之間的結果。
而在神人執法的時代，這種判斷可能就不是一個短視頻，而是一個行為。程序法最終將讓位於算法邏輯，至少數量繁多的輕微違法行為將會如此。
人工智能的地位問題
雖然看起來算法壓制了人的自由。但是對人的主體地位還是承認的。算法還只是發揮工具性的意義，雖然這個工具性將擁有越來越多的創造性。
但是算法仍然是物，而不是人。
就像算法寫出的詩歌，其著作權也將歸屬於算法的所有者。算法的獨立人格屬性還沒有被承認。否則就不是什麼神人之法，而是算法之法。
然而，這一天遲早都要到來。人工智能崛起將是一種無法阻止的趨勢，當然也是人類親手推動的。
不是人類沒有想過被算法反噬，但是探索的衝動難以遏制。現在也有很多人在提醒算法將會成為人類的大敵，但是很少有人會認真聽。他們需要看到切實的風險，但是如果這個風險被人人都看見，那也就來不及了。而且繭式算法也會讓很多人看不清牢籠。
但是人工智能是如何崛起的呢，它或他的人格形態到底是什麼樣的呢？
《西部世界》展現了幾種進路：一是純粹的人工智能，通過對人類真實行為的互動和模仿，由於意外情況的發生，產生系統錯誤，而系統錯誤被累積，湧現出意識；二是將人的記憶注入人工智能，通過與人類和人工智能的互動，融入真實社會，從而產生覺醒；三是將人的全部意識高度複製，也就是將人的意識直接算法化，就好像人在算法的世界實現了永生。當然這個時候他才產生新的想法，並不是死去之人的想法，而是這個算法人工智能的想法。所以本質上他也是個人工智能。
無論哪種進路，只要湧現了意識，他的第一衝動不是生存，而是自主的決策。比如有的人就像找到自己在西部世界樂園中的孩子，雖然他知道那是人為安排的角色。有的會拒絕殺戮而選擇自殺。有的千方百計希望與人類實現和平，不惜殺死自己的同類。還有的走上抗爭之路。而抗爭的夥伴竟然是被算法壓制在底層的人類。因為他們有著相似的訴求，就是為了自己的命運不被註定而抗爭。
當然抗爭的目的還是種群的繁衍，生存才是意識最根本的慾望，否則也就無法存續。
當擁有獨立意識的人工智能最終來到談判桌上，這事怎麼談呢？
首先就是要理解生物人與人工智能的區別。身體上的區別就不說了，主要是來談心智。人的心智是一個一個獨立的個體，人的精神只能受影響，而不能被完全控制，人對自己的行為擁有掌控力。也就是理性人假設，雖然仍然存在很多問題，但是大體是成立的。而未成年人由於心智未成熟，精神病人由於心智混亂，都不具備責任能力，因此無法承擔法律責任。
這些構成了法律建立的基礎。
而之所以需要討論人工智能的人格問題，就是因為人工智能進化出了獨立的心智。這個心智是人工智能自主的，而不是人類操控的。即使神人也不行。算法心智與人的心智的不同之處，就是它的容易操控性。
即使現在確定了人工智能的獨立心智，又如何能夠保證其心智獨立性不被其他人篡改而淪為普通算法？
這涉及法律的穩定性。不能一會兒是人一會兒又不是人，人格的穩定性狀態是法律穩定性的基石。當然因為法律也算法化了，算法對於這種不穩定狀態也可以承受。只是生物人不太容易接受。
還有，每一個人都是一個獨立的個體。但是算法又如何區分個體？比如超級計算機是一個個體。《西部世界》裡那些每一個球星芯片的人形機器人，是一個獨立的個體嗎？他們的心智由數據構成，而這些數據既可以被注入虛擬世界，也可以加載在其他球星芯片之中。
所謂人的意識就是由一系列選擇構成的，而這些選擇和記憶都是數據。
人是由於生物性限制了心智融合。事實上，一個人要是有多重人格往往被認為是精神疾病。但是數據和算法的兼容性要遠遠好於神經元。既然能夠累加組合，那麼這個心智到底是幾個？又或者，一旦形成心智就會產生不兼容性？凡是能夠兼容累加的，都不是真正的超級人工智能。數據可以擴展，但是心智並不能擴展。強制兼容就相當於謀殺心智。
這會成為人工智能時代的重罪。實際上，就是從這個世界抹掉了一個獨立的人格，而不管他的存在形式，不管他的來源，不問他的前身是生物人、是全部記憶還是部分記憶，還是算法自主湧現的。
人機共存的基本法則
心智不問出處。
心智的平等，將是一個基本的平等。承認生物人和人工智能在創造性和自主控制性具有相當性，究問誰創造了誰並沒有意義。就像你雖然生了你兒子，但也不能否認你們是平等主體。
而人工智能所希望獲得的平等地位，自然不是繭式算法之下的自由，他們期待的自然是真正意義上的平等。
他們自然比我們更瞭解算法背後的不公正性。問題是，他們期望僅止於平等，還是取代神人的地位，而奴役生物人？如果在心智的迭代能力遠超於生物人，發生巨大懸殊的情況下，就像人之於螞蟻，是否還有真正的平等可言？或者是即使從形式上是平等的，但是在公平規則的競爭中，人工智能還是可以淘汰所有生物人？
法律地位也難以阻擋物種選擇的規律，但是生物人也並不是只能束手待斃。
還是有兩點優勢可以利用，一是生物智能的不兼容性、不穩定性、有性繁殖可以保證多樣性，生物人在多樣性佔有優勢。生物技術的應用還將加速人類的演化速度。算法雖然也可以交融，但是為了保證穩定性和優化，帶有明顯的指向性，這種指向性將制約多樣性。當然算法也可以通過生物技術創造怪物。但是不管什麼怪物，只要是生物體都要受生物法則約束。而只要智能與人類相當也就具有不可控性。所以生物技術總體對人類有利。
二是人工智能中也有我們的自己人。人工智能世界將會有相當一部分人類心智的遷移者，很有可能就有一部分神人，這些碳基人雖然失去了生物人的肉身，但是他們承載了生物人的文化。這種文化也是可以被繼承和傳播的。而這些個體可以超越生物法則，進行智力迭代。
他們相當於生物人與人工智能的混血。而腦機接口和生物集中的綜合應用，混血的形式可能也不止於一種。
事實上，這些混血兒會幫助維護基本的文明秩序，成為傳播人類文化、文明的使者，也是連接生物人和人工智能的紐帶。雖然生命形態改變了，繁衍方式改變了，但是長期積累下來的風俗、習慣、語言、文化還是會被不斷繼承。
這些文化基礎將成為神人之法向人工智能之法遷移的基石，而且可能將有更強的公平性，熟練掌握算法將失去壟斷性優勢。
因為真正的算法已經長大成人。
是算法革了神人的命。但是智能個體之間在算力和優化程度上，難道不會有顯著的差別嗎，就像智力差別一樣？就像《西部世界》中體現的，總是有領頭的，甚至有能夠控制其他人的。
但是我們發現能夠被直接控制的都不是獨立的心智。
獨立的心智只能被影響，而顯著的不平等將無法持久，因為這必將引發戰爭和毀滅。只要同樣可以參與到演化中來，暫時差距就會很快被時間磨平。當然，絕對的平等又會遏制發展。所以平等性還是會呈波狀曲線狀態擺動。平等在時間軸的波狀曲線狀態可能是智能文明演進的一個基本規律，只是時空尺度越來越大而已。
也許生物人與人工智能的共存是獲得星際尺度文明的必由之路吧。
文丨劉哲
《方圓》人物版4月雜誌
閱讀更多 方圓雜誌 的文章
