多年以後，當人工智能的機器大軍四處圍獵人類殘部時，躲在陰冷地堡中的人類戰士夜深難眠，回憶著人機大戰的遙遠開端：從1988年開始，“深思”、“深藍”、“AlphaGo”等先後在象棋、圍棋領域擊敗人類，人類的榮耀便日趨衰落⋯⋯
幸好，這種慘淡未來，只是筆者構想的虛擬圖景。當然，這也絕不是杞人憂天，對未來的悲觀預言是為了警醒當下世人：面臨正在開啟的“人工智能紀元”，我們必須儘早建構一種穩妥的科技倫理，以此來引導人工智能的研發方向和應用領域。本文並不細數人工智能倫理的微觀條款，而是基於人類價值觀和認識論的演變，從科幻文學的角度探討人工智能倫理的歷史脈絡，並推演未來可行的發展方向，既展現世界視野，也兼顧中國話語。
人工智能一詞在1956 年的達特茅斯會議上被首次提出。作為一門新的交叉學科，目前主要涉及計算機領域，它試圖瞭解人類智能的實質，進而生產出一種媲美人類智能的軟件系統、機器人、仿生人或賽博格，乃至全面超越當今人類的“新人”。當然，早在人工智能這個詞被明確提出之前，人類對“人造智能生命”的想象便早已開始，尤其和科幻文學有著千絲萬縷的聯繫。
科幻文學中的人工智能倫理具有一定的前瞻性，並不受限於具體的科技進展，而是與人類的價值觀演變息息相關，其中不僅有對科技的反思，也包含著複雜的神學焦慮和哲學思考。概言之，西方文學中人類對“人造智能生命”的態度，大體經歷了從拒絕接納，到奴化控制，再到交融共生的三個發展階段。西方的基督教神學傳統和人類中心主義哲學，以及對現代性的反思是推動其不斷深究這一問題的文化根源。相對而言，基於陰陽五行、萬物有靈的傳統思維，以及對現代性的樂觀認知，近代之前的中國文學幾乎不關注人工智能倫理問題；此後，在西學東漸的時代變革大潮下，中國文學開始逐漸關注該領域，發出自己的聲音，但現代性的探討相對不足，在作品數量和理論深度方面均有待提升。
“人造智能生命”題材最著名的作品當推英國作家瑪麗·雪萊1818年出版的《弗蘭肯斯坦——現代普羅米修斯》，這也是世界科幻文學的肇始之作。小說的副標題隱喻了古希臘神話中普羅米修斯造人的故事，但與神話中普羅米斯修對人類無限眷顧，甚至不惜盜天火的自我犧牲精神相反，作品中的造物主始終不願接受這個外表醜陋的智能生命，也因此引發一系列殘酷衝突。這部作品給後人留下了很多值得深思的倫理問題，譬如：一旦“人造智能生命”產生後，其行為是否應被納入人類的倫理準則？人類是否要擔負起使其生活幸福的責任？遺憾的是，瑪麗·雪萊並沒有回答這些問題，對“人造智能生命”持否定態度的她，從根本上拒絕討論倫理建構的可能性。
在之後的很長一段時間，不少作家對人工智能的態度和瑪麗·雪萊相似，其筆下的“人造智能生命”在沒有被納入社會關係之前，便直接或間接地將創造者殺死。譬如，《白鯨》的作者麥爾維爾在《鐘樓》中描寫敲鐘的智能人偶殺死了自己的製造者；另一位美國作家比爾斯在《莫桑的主人》中描述智能人偶因輸掉棋局而釋放高壓電流殺死主人。需要說明的是，這一階段對人工智能的稱謂大都是Automaton。據《牛津大詞典》記載，該詞最早出現於1611年，意指借鑑鐘錶齒輪技術而製造的自動機械人偶，和後世文學中的高智能人造生命差距較大。
此外，還有一類對人工智能持否定態度的作家，他們作品中的造物者雖然沒有被殺死，卻都是反面形象，“人造智能生命”也最終被損毀。較早的作品有德國作家霍夫曼的《沙人》。小說描寫神秘人物“沙人”製造出女性智能人偶，後因事蹟敗露，人偶在爭搶中被肢解，迷戀她的男主角也瘋癲而亡。此類作品最具代表性的當屬法國作家維裡耶·德·利爾-亞當的小說《未來夏娃》。作者把當時還在世的愛迪生描述成偏執而又詭異的發明家，他為好友埃沃德製造了一個和真人女性極度相似的智能機器人哈德莉。但最終哈德莉卻死於一場海難。在這部小說中，智能機器人一詞為Android。據OED記載，該詞最早形態為Androides。“andro”在希臘字源中指的是“人類”，而“eides”意為“形狀”，兩者相連就有了“具備人體特徵”之意。如今，人們在使用Android一詞時，一般特指擁有人類形體的智能生命體。
上述作品有一個共同點，即科學家的創造活動還只屬於個體行為，被造出的單個智能生命在沒有得到社會承認之前，便以悲劇收場。筆者以為，這種否定立場的背後隱喻有西方社會普遍存在的神學焦慮。按照基督教的觀點，人的自由不是無邊的，必須承認自身的侷限性，保持對上帝的敬畏之心。在人的眾多定限中，最重要的一點便是在道德方面：人類無法實現道德完美，掌握先進科技的人在道德上未必良好。那些“造人”的科學家在挑戰上帝權威方面，很像魔鬼撒旦。狂熱的他們讓生命進化脫離了自然演變的過程，進而釋放出無法預料的破壞性力量。最終，人類不但不能控制自己的創造物，反而被置於死亡的恐怖境地。有鑑於此，作家們通過文學作品發出警示：不負責任的濫用科技，不論是以求知的高尚名義，還是以賺錢享樂為目的，都是違揹人倫的！然而在現實社會中，人類探索生命奧秘的努力並未因此而止步，反而有加速跡象，這就註定了人工智能倫理問題必然會在後世文學中被不斷提及。
1920年，捷克作家卡雷爾·恰佩克通過劇作《羅素姆的萬能機器人》將“造人”科學家的個人悲劇放大為全體人類的末世審判。大眾所熟知的Robot一詞便源於該劇，詞源為波蘭語的“強迫工作”和“工人”。顯而易見，該詞隱喻了機器人服務人類的勞工地位。劇中的機器人由工廠批量製造，外表和人類毫無二致。人類為了從日常勞動中解脫出來，大量使用這種機器人。後來，機器人不再服從奴役，轉而發動戰爭消滅了人類。恰佩克的這種悲觀看法是當時人們對人工智能人拒斥態度的典型代表。這種觀點認為，雖然人類好逸惡勞的本性決定了人工智能一開始會被廣泛接受，但隨著科技進步引發的不確定風險加劇，一旦人工智能站到人類的對立面，人類將遭受滅頂之災。此類文學作品有很多，譬如美國作家約翰·坎貝爾的《最後的進化》，萊斯特·雷伊的《為人類復仇》等。
時至今日，這種“人工智能危險論”依然擁躉甚眾，科技大佬比爾·蓋茨、埃隆·馬斯克以及著名物理學家史蒂芬·霍金，都對人工智能研發持審慎態度。《終結者》、《駭客帝國》等經典科幻電影更是將這一觀點渲染得婦孺皆知。很明顯，對未來的悲觀預言是為了警醒世人：如果人類必須要面對人工智能，就應儘早建構一種穩妥的科技倫理，以此來約束人工智能的研發方向和應用領域。
當然，儘管有不少作家將人工智能視為人類生存的威脅，但同時也有許多作家並不認可這種悲觀預測，他們更願意在作品中將人工智能描述為人類的得力助手，以服務人類為主旨。
此類較早的文學作品當推美國19世紀中後期的通俗小說。譬如艾立斯筆下的“蒸汽動力人”系列，塞納任筆下的“電人”系列。[2]這些暢銷小說，對當時的青少年產生了深遠影響。小說中的人工智能雖然名稱各異，也尚未具備高等智慧，但無一例外都是主人公冒險旅途中的好幫手，屬於忠實的奴僕角色。
需要強調的是，即便在將人工智能視為人類威脅的作品中，以奴僕身份出現的人工智能往往也在一開始被社會廣泛接受。這暗示了一條基本的倫理關係：人工智能天生為人類的奴僕。在西方文化傳統中，思想界普遍認為人類高於其他物種，在等級關係中處於上層。譬如，古希臘哲學家普羅泰戈拉聲稱“人是萬物的尺度”；德國哲學家康德宣稱“人是目的本身”。這些理論支撐起了人類中心主義倫理學，並對大眾產生了深遠影響。從這一角度來看，人和人工智能分屬兩種生命形式，後者沒有理性和靈魂，只能算是有生命的工具。人類作為高等智慧生命可以奴役低等生命，而不用揹負道義上的責難。
不過，人類中心主義的倫理學在處理這種關係時有著很大缺陷。這種內隱的等級制和叢林式的強者邏輯，是人類控制人工智能的倫理依據，但進步的科技很可能在將來顛覆二者的強弱對比。正如黑格爾在《精神現象學》中闡釋的“主奴關係辯證法”，主人和奴僕的地位是會互相轉化的。在神話中，神創造了人類；在現實中，人類則造出了人工智能。當人類難以脫離人工智能而獨立生活時，就已經很難區分兩者之間的控制關係，更何況“造反”的人工智能憑藉自身的強大力量，轉而奴役或滅絕處於劣勢的人類。基於這一邏輯，將人工智能視為人類生存威脅的觀點並非危言聳聽。
然而，在現實社會，人工智能的研發並未因這種恐懼而止步，反而有加速跡象。畢竟很多相關從業人員並不贊同這種悲觀預測，他們認為人工智能雖然具有強大的運算及自我學習能力，卻沒有智慧，只要人類設計出精妙的程序，就能夠控制人工智能。此類觀點以美國作家艾薩克·阿西莫夫擬定的“機器人三定律”最為著名。該觀點在小說《環舞》中第一次明確提出。1950年出版的小說集《我，機器人》則系統闡釋了“機器人三定律”：“第一，不傷害定律：機器人不得傷害人類，也不得見人受到傷害而袖手旁觀。第二，服從定律：機器人必須服從人的命令，但不得違反第一定律。第三，自保定律：機器人必須保護自己，但不得違反一、二定律。”這三條定律在製造機器人的伊始便被嵌入其大腦，永遠無法消除。毋庸置疑，阿西莫夫的貢獻是巨大的，其後的文學作品，如果不是專門討論人工智能倫理問題，基本都會遵循該定律來敘事。
在三定律的背後，是阿西莫夫為了確保人類的統治地位，而設想了一種符合康德“絕對律令倫理學”的人工智能。眾所周知，康德探討的是關於絕對律令的普遍道德法則，他在《道德形而上學基礎》中強調：人應當只按照普遍法則行動。在康德看來，既然不能說謊成為普遍法則，那麼向一個殺手說謊也是不應該的。很明顯，這與人類依據現實情境而調整的“彈性”倫理完全不同。康德的原本思路是：在認識領域“人為自然立法”，在道德領域“人為自己立法”。阿西莫夫卻巧妙地將兩者結合，把康德給人類自己的立法原則轉移給了機器人，將其設定為符合絕對倫理法則的群體。
從語義邏輯的層面來看，阿西莫夫的三定律似乎完美化解了前人對人工智能“造反”的擔憂，但仔細分析，依然有很多漏洞，這裡僅舉最重要的四點。
第一，技術上難落實。三定律所要解決的是人機之間的倫理困局，但很多倫理問題，連人類都無法做出適宜的應對策略，更何況受由人類研發的人工智能？再者，人類雖然能在一開始控制人工智能，但卻無法保證越來越先進的人工智能永遠處在人類的掌控之中。
第二，現實中不可行。三定律應用在複雜多變的現實社會，常常會捉襟見肘，有時甚至會引發自相矛盾的窘況。阿西莫夫本人也意識到了這一點，因此對三定律的修改成為他後期作品的主線。在《可以避免的衝突》中，機器人為了避免人類個體彼此傷害，便限制人類的行為，轉由機器人掌控一切。這促使阿西莫夫補充了“第零定律”：機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害。原先的三定律都要服從第零定律。但是，這條定律的最大問題就是：機器人如何權衡自己當下的行為會不會傷害人類整體？後來，其他學者也提出了修正建議，最著名的當屬保加利亞作家狄勒烏在小說《伊卡洛斯之路》中提出的“第四定律”：機器人在任何情況下都必須確認自己是機器人。但這些修補並不能改變固有的設計缺陷。
第三，忽視了人類和機器人的情感問題。眾所周知，人類的情感世界是非常複雜的。也許機器人保姆把某些人撫養長大後，他們之間會產生類似親情的感情，譬如阿西莫夫的小說《羅比》。另外一些人和機器人長期相處，可能會產生類似友情的感情，譬如美國作家邁克爾·雷斯尼克的小說《知己》。更有人甚至和機器人墜入情網，並最終成婚，譬如萊斯特·雷伊的小說《海倫·奧勒》。也許旁觀者無法理解，但當事人會認為這份感情和人類之間的感情一樣珍貴。很明顯，機器人三定律無法處理這些棘手的感情問題。似乎只有打破二者的主奴關係，才有解決的希望。在這方面，可以借鑑亞里士多德在《尼各馬可倫理學》中提出的觀點，他承認主奴之間可能存在的“友愛”關係，原因在於兩者都有“靈魂”。亞里士多德認為：“奴隸是有靈魂的工具，工具是無靈魂的奴隸。作為奴隸對它是不存在友誼的。然而，他可以作為人，對於一切服從法律，遵守契約的人，他們之間似乎有某種公正，作為人當然有友誼。”比照而言，當機器人有了感情之後，也就脫離了純工具的範疇。此時人類應本著智慧而有責任的原則，建立一種新型的人機關係。
第四，迴避了一個本體論問題——何為“人”？作為斯芬克斯之謎，人類對這一問題追問了數千年。筆者在此主要探討“人”的資格的獲得問題：到底是自然遺傳屬性，還是社會文化屬性決定了“人”的身份？抑或是二者兼具？從三定律所代表的人類中心主義倫理觀來看，人類中的白痴生下來便享有基本的人權，在等級方面位列人工智能之上，而後者即便掌握了人類的文化，也不能躋身人類之列。意大利作家科洛迪的《木偶奇遇記》可以視為這一等級關係的絕佳隱喻，如果沒有仙姑的幫助，善良的木偶匹諾曹即便歷盡千辛萬苦，也不會變成“人”。難能可貴的是，阿西莫夫在後期作品《兩百歲的人》中打破了傳統觀念。小說描寫機器人安德魯為了成為真正的人，逐步將自己的機械零件替換成活體器官，終於在兩百歲生日的彌留之際，以死亡的代價獲得了人類的承認。
顯然，以阿西莫夫為代表的樂觀派，對人工智能危險論的補救並不成功。畢竟，站在人類中心主義倫理觀的立場上，從“主奴二元對立”的邏輯出發，很難構建起穩定的人工智能倫理，亟待提出更新型的思考路徑。
20世紀中期以後，隨著科技進步，特別是人造器官的研製，人類逐漸打破肉體禁忌，將一些機器部件納入血肉之軀，譬如植入大腦的芯片，廣泛使用的義肢，不可或缺的心臟起搏器。按照這一發展趨勢，也許在未來社會，人類和人工智能的區分將不再是涇渭分明的。
1960年，為了解決未來人類在星際旅行中面臨的困難，美國航天醫學領域的科學家首次提出賽博格概念。Cyborg是神經控制裝置與有機體的混寫，科學家希望通過向人體移植輔助的神經控制裝置，以增強適應外太空的能力。作為能夠自我調節的人機結合系統，賽博格既擁有機器運作精確、壽命長久的優點，也具備人類的特質，比如感情和理性。至此，人和機器這兩個原本對立的概念，終於共存於賽博格這一生命體中。不過，在科學界提出該設想前，文學界的相關創作早已展開。
英國作家奧德爾的《發條人》可以視作最早的賽博格題材作品。小說描述在人腦中植入時鐘發條，用以控制整個人的言行。作者意在批判世人對技術的盲目崇拜和濫用。有鑑於此，後世作家大多繞開對人腦的改造，而集中描寫身體的機械化，塑造出一系列正面的賽博格形象。相對於純鋼鐵架構的傳統機器人，人機合體的賽博格形態更容易被接納為“人”。不過，賽博格作為一個比較學術化的詞，在誕生之後很長時間並沒有被大眾所瞭解，直到20世紀70年代，美國文學界湧現了一批以賽博格為主角的科幻小說，該詞才廣為大眾熟知。代表作品有羅維克的《當人成為機器時》，波爾的《升級人》。這些作品大多描寫人的軀體被機械化改造，以完成太空開發等特殊任務。該類小說連同隨後的影視改編，在世界範圍產生了廣泛影響。
一種觀點認為，賽博格必須保留人體關鍵的神經系統，比如大腦和脊髓，否則就屬於傳統意義上機器人的範疇。如上文所述，就目前而言，人類很難將傳統的機器人接納為“人”，即便其無論在外形，還是在思維方式上，都和人類並無二致。嚴格來說，阿西莫夫《兩百歲的人》中的安德魯，恰恰是因為使用有機神經耗盡了電子腦，才以死亡的代價換來了賽博格身份。筆者以為，如果說賽博格反映了人類的逐漸機械化，那麼人工智能則從反方向體現了機器的逐漸“人化”，而雙方的發展軌跡最終會碰撞在一個根本的哲學問題上，即“何為人？”到那時，人類和人工智能的界限將更難以劃分。
其實，隨著科技的發展和時代的演變，關於“人”的定義也是不斷轉變的。古希臘文學中的斯芬克斯之謎，實際上是一個如何區分人與獸的哲學命題，隱喻人類文明進程的開始。而科幻文學對於人工智能倫理的一再探討，則暗示了傳統意義上的“人”逐漸死亡，宣告著後人類時代的即將來臨。
從哲學角度看，作為一種知識和概念的“人”是有始有終的。法國哲學家米歇爾·福柯在《詞與物：人文科學考古學》中提出了“人之死”的觀點，這裡的人是指人文科學意義上的人，即有關人的觀念和學說。[4]按照福柯的分析，“人之死”是以康德的人類學為基礎的哲學的消失，是19世紀以來以人為中心的現代知識形態的消失。儘管福柯沒有明確指出將會出現何種新的知識形態，但舊有的肯定不再被奉作金科玉律，這其中當然包括人類中心主義倫理學。與福柯同時代的哲學家讓-弗朗索瓦·利奧塔，也針對這一問題提出了自己的思考。他執著於“無軀體能否思維”的探索，並最終從時間的恆久流溢性角度給出了肯定回答。
1982年，美國《時代》週刊把計算機選為“年度人物”，戲劇性地向全世界宣告後人類時代的到來。作為一種理論思潮，後人類主義形成和發展於20世紀80年代。面對人體不斷被高科技改造的潮流，不少人相信自然的進化最終將讓位於人工進化，進而出現在體能、智力、壽命等各方面都超越當今人類的“後人類”。該理論的代表人物是唐納·哈拉維，其發表於1985 年的《賽博格宣言》可謂綱領性文件。哈拉維認為高科技文化對既存的二元論思考提出了挑戰。作為“社會現實和小說的共同創造”，賽博格是一個打破自我和他者界限的合體，是介於人與機器之間的一種“後人類”。[6]1992年，歐美國家舉辦了一系列名為“後人類”的展覽。在配合展覽出版的《後人類》一書中，作者強調科技進步“挑戰了舊人類的終結，以及後人類開始的界線”，“達爾文的人類進化論也將進入下一個階段”，[7]顯然，在後人類主義看來，當今人類只是從猿進化到後人類的一個過渡階段。但關於後人類的具體形態，因其充滿著各種雜糅、跨界的可能，目前沒有人能給出準確的預測。
閱讀更多 在樹下看星星 的文章
