多年以來，如何定義生命，是一個富有爭議的話題，科學家們提出了各種觀點，其中一些定義認為生命具有較高的特殊要求，例如：是由細胞構成，這就使未來人工智能機器和地外文明失去了"生命資格"。
在《生命3.0》這本書中，作者跨越了最長時間維度，從可見的智能潛入不可見的意識，重新定義了"生命"。生命，就是可以自我複製的信息處理系統。
這本30萬字寫就的誠意之作，霍金生前力薦，埃隆·馬斯克為其瘋狂點贊，尤瓦爾·赫拉利嘆為影響深遠之作……它在亞馬遜排名Top1，併成功登頂《紐約時報》暢銷書。論嚴謹，它堪稱人工智能科普教材；論深遠，它是人工智能危機應對指南；論暢快淋漓，它就像一本爽極了的科幻小說。
以下內容摘編自浙江教育出版社2018年7月新書《生命3.0》。參與文末留言分享活動，就有機會把這本書收入囊中哦！
《生命3.0》
作者：[美]邁克斯·泰格馬克(Max Tegmark)
定價：99.90元
生命的三個階段：生命1.0、生命2.0 和生命3.0
生命是什麼？這個問題的爭議之大，眾所周知。關於這個問題，有許多不同的定義，其中的一些要求非常明確，比如要求生命由細胞組成。這種要求可能不太適用於未來的智能機器和外星文明。由於我們不想將我們對未來生命的思考侷限在過去遇到過的物種，所以讓我們將生命定義得更廣闊一些：它是一個能保持自身複雜性並能進行復制的過程。複製的對象並不是由原子組成的物質，而是能闡明原子是如何排列的信息，這種信息由比特組成。當一個細菌在複製自己的DNA 時，它並不會創造出新的原子，只是將一些原子排列成與原始DNA 相同的形態，以此來複制信息。換句話說，我們可以將生命看作一種自我複製的信息處理系統，它的信息軟件既決定了它的行為，又決定了其硬件的藍圖。
與宇宙自身一樣，生命逐漸變得越來越複雜和有趣。現在，請允許我做一點解釋。我發現了一個有用的方法，就是根據複雜程度將生命形式分成三個層次。這三個層次分別是生命1.0、生命2.0 和生命3.0。生命最早是在何時何地、以何種方式出現在我們的宇宙中的呢？這個問題依然沒有答案。不過，有力的證據表明，地球上的生命最早出現在大約40 億年前。不久之後，我們的地球上就充滿了各種各樣的生命形態。那些最成功的生命很快便從中勝出，並具備了某種與環境共生的能力。
具體而言，它們就是被計算機科學家稱為"智能體"(Intelligent Agent)的東西：這種實體用感應部件收集關於環境的信息，然後對這些信息進行處理，以決定如何對環境做出回應。對信息的處理可以包括高度複雜的信息處理過程，例如，你能用眼睛和耳朵收集信息，並用這些信息來決定在一段對話中要說些什麼；不過，它也可以只包括非常簡單的硬件和軟件。
生命為什麼會變得越來越複雜？原來，足夠複雜的生命會得到進化的犒賞，獎品是一種預測及利用環境規律的能力。因此，在越來越複雜的環境中，就會進化出越來越複雜和智能的生命。這個更加聰明的生命又會為競爭者創造出一個更加複雜的環境，而這些競爭者又因此而進化得更加複雜，最終創造出一個充滿極端複雜生命的生態系統。
生命的三個階段
生命1.0 在它的有生之年都無法重新設計自己的硬件和軟件：二者皆由它的DNA 決定，只有進化才能帶來改變，而進化則需要許多世代才會發生。相比之下，生命2.0 則能夠重新設計自身軟件的一大部分：人類可以學習複雜的新技能，例如語言、運動和職業技能，並且能夠從根本上更新自己的世界觀和目標。生命3.0 現在在地球上尚不存在，它不僅能最大限度地重新設計自己的軟件，還能重新設計自己的硬件，而不用等待許多世代的緩慢進化。比如說，許多細菌都有感應器，用來測量周圍液體中的糖濃度。同時，它們還擁有一種形狀很像螺旋槳的結構，叫作"鞭毛"，用來游泳。將感應器和鞭毛連接起來的硬件可能會執行下面這個簡單卻很有用的算法：如果我的糖濃度感應器發現周圍液體中的糖濃度值比幾秒鐘前低，那麼，改變鞭毛的遊向，我就可以改變方向了。
作為一個人，你學會了說話，還學會了無數其他技能。但是，細菌卻不是一個很好的"學習者"。它們的DNA 不僅規定了硬件的設計，比如糖感應器和鞭毛，還規定了軟件的設計。它們永遠學不到"應該遊向糖多的地方"； 相反， 這個算法從一開始就" 寫死" 在它們的DNA 中。雖然在細菌身上還是存在某種學習的過程，但這並不是發生在單個細菌的一生中，而是發生在細菌這個物種的進化過程中，通過之前許多代的試錯，自然選擇在DNA 的隨機變異中選出了能提高糖攝入量的那些變異。其中一些變異幫忙改進了鞭毛等硬件的設計，還有一些變異改善了軟件，譬如執行"尋糖算法"的信息處理系統。
這些細菌就是被我稱為"生命1.0"的一個例子。生命1.0 是說：生命的硬件和軟件都是靠進化得來的，而不是靠設計。不過，你和我卻屬於"生命2.0"：生命的硬件是進化而來，但軟件在很大程度上卻是依靠設計的。在這裡，"軟件"指的是你用來處理感官信息和決定行動時使的所有算法和知識，從你識別某人是不是你朋友的能力，到你行走、閱讀、寫作、計算、歌唱以及講笑話的能力，這一切都屬於軟件。
剛出生時，你是無法完成以上這些任務的。所有的軟件都是後來在一個被我們稱為"學習"的過程中編入了你的大腦。你小時候的課程表大多是由你的家人和老師設計的，他們決定了你應該學什麼；不過，你會逐漸獲得更多的權利，開始設計自己的軟件。或許，學校允許你選修一門外語，那你想不想在大腦中安裝一個法語軟件模塊或者西班牙語模塊？你想不想學打網球或下象棋？你想不想成為一位廚師、律師或者藥劑師？你想不想通過閱讀一本書來學習更多關於人工智能和生命未來的知識？
生命2.0 能夠重新設計自身的軟件，這種能力讓它比生命1.0 聰明許多。高度的智能不僅需要許多由原子組成的硬件，還需要大量由比特組成的軟件。我們人類的大部分硬件都是出生後通過生長獲得的，這個事實十分有用，因為這說明我們身體的最終尺寸並不侷限於母親產道的寬度。
同樣地，我們人類的軟件也是在出生後通過學習獲得的，這個事實也十分有用，因為這說明我們最終能達到的智能程度不侷限於受精時DNA所傳遞的信息量——這是生命1.0 的風格。我現在的重量比出生時重了25 倍，我腦中連接神經元的突觸存儲的信息比我出生時的DNA存儲的信息多了大約10 萬倍。突觸存儲著我們所有的知識和技能，大約相當於100 TB 的信息，而我們的DNA卻只存儲了大約1GB 的信息，還不如一部電影的容量大呢。因此，一個剛出生的嬰兒不可能說一口流利的英文，也沒法參加高考，而且這些信息無法預先被安裝在他的大腦中，因為他從父母那裡得來的信息主模塊，也就是他的DNA，缺乏足夠的信息存儲能力。
設計軟件的能力不僅讓生命2.0 比生命1.0 更加聰明， 還讓它們更加靈活。如果環境發生改變，生命1.0 只能通過多代進化來緩慢適應新環境，而生命2.0 卻可以通過軟件升級來立刻適應新環境。比如，如果細菌總是遇到抗生素，就可能在許多代之後進化出抗藥性，但單個細菌並不會改變自己的行為；相反，一個女孩如果知道自己對花生過敏，就會避免接觸花生。這種靈活性在群體層面上賦予了生命2.0 更大的優勢。
即便我們人類DNA 中存儲的信息在過去5萬年都沒有發生過什麼大變化，但存儲在我們大腦、書籍和計算機中的信息總量卻彷彿發生了爆炸。通過安裝一個允許我們用複雜的口語進行交流的軟件模塊，我們便可以將某人大腦中存儲的最有用的信息複製到另一個大腦中，這些信息甚至在最初那個大腦死去之後，還可能繼續存在。通過安裝一個能讓我們讀寫的軟件，我們就能夠存儲和分享遠超於人類記憶總量的大量知識。通過學習科學和工程學知識，我們可以開發出能產生科技的大腦"軟件"，任何人只需點擊幾次鼠標就能獲得全世界的大部分知識。這種靈活性讓生命2.0 統治了地球。
從基因的桎梏中解放出來之後，人類總體的知識量以越來越快的速度增長，一個突破接著一個突破：語言、寫作、印刷、現代科學、計算機以及互聯網等。人類共同的"軟件"發生著空前快速的文化進化，這種進化逐步成為塑造人類未來的主要力量。相比之下，極端緩慢的生物進化開始顯得無關緊要起來。
儘管我們今天擁有強大的科技能力，但從根本上來說，我們所知的所有生命形式都依然受到生物" 硬件" 的侷限。沒有人能活100萬年，沒有人能記住Wikipedia 的所有詞條，理解所有已知的科學知識，也沒有人能在不依靠航天器的情況下進行星際旅行。沒有人能將很大程度上了無生機的宇宙轉變成一個能繁榮億萬年的多樣化的生態圈，從而讓我們的宇宙最終發揮出所有潛能，並徹底甦醒過來。所有這些，都需要生命經歷一次最終的"升級"，升級成不僅能設計自身軟件，還能設計自身硬件的"生命3.0"。換句話說，生命3.0 是自己命運的主人，最終能完全脫離進化的束縛。
這三個階段之間的界限有一點模糊。如果細菌是生命1.0，人類是生命2.0，那你可以把老鼠看作生命1.1：雖說它們可以學習許多知識，但還不足以進化出語言能力，更不可能發明互聯網。此外，由於它們沒有語言能力，所以學到的大部分東西在死去後就丟失了，並不會傳遞給下一代。同樣地，你也可以認為，今天的人類其實應該算是生命2.1：雖說我們可以對自身的硬件實施一些微小的升級，比如種植假牙、植入人工膝關節和心臟起搏器。不過，我們卻沒法做到"長高10 倍"或"把大腦容量擴大1000 倍"這種戲劇化的事情。
總之，我們可以根據生命設計自身的能力，把生命的發展分成三個階段：
生命1.0（生物階段）：靠進化獲得硬件和軟件；
生命2.0（文化階段）：靠進化獲得硬件，但大部分軟件是由自己設計的；
生命3.0（科技階段）：自己設計硬件和軟件。
經歷了138 億年的漫漫進化之後，宇宙前進的步伐在我們的地球上開始猛然加速： 生命1.0 出現在約40 億年之前， 生命2.0 出現在約10萬年前， 而許多人工智能研究者認為， 隨著人工智能的發展， 生命3.0可能會在一個世紀以內降臨，甚至可能會出現在我們的有生之年。到時候會發生些什麼？這對我們人類來說意味著什麼？這就是《生命3.0》這本書的主題。
生命3.0 何時出現
這個問題極富爭議，而且爭議得十分精彩。全球頂尖的人工智能研究者不僅在做出預測時眾說紛紜，他們的情緒反應也截然不同：有的是充滿信心的樂觀主義者，有的則懷有嚴肅的擔憂；甚至於，對於人工智能會在短期內對經濟、法律和軍事方面造成什麼影響，他們也都難以達成共識。如果我們將討論的時間範圍擴大一些，把通用人工智能，特別是達到或超過人類智能水平、使得生命3.0 成為可能的通用人工智能涵蓋進討論的話題，那麼他們的分歧就更大了。與包括下棋軟件等狹義人工智能不同的是，通用人工智能幾乎可以完成任何目標，包括學習。
有趣的是，關於生命3.0 的爭議圍繞著兩個而不是一個問題展開，這兩個問題分別是"何時"和"什麼"，即如果生命3.0 真的會出現，那何時會發生？這對人類意味著什麼？我認為，存在三個截然不同的學派。這三個學派都值得我們認真對待，因為它們之中都包括一些世界頂尖的專家。
我在圖中描繪了這三個學派，它們分別是：數字烏托邦主義者(DigitalUtopians)、技術懷疑主義者(Techno-Skeptics)和人工智能有益運動支持者(Members of The Beneficial-AI Movement)。現在，請允許我向你介紹一些他們中最雄辯的支持者。
大多數關於強人工智能的爭議都圍繞著兩個問題：如果真的會發生，何時會發生？它對人類是一件好事嗎？技術懷疑主義者和數字烏托邦主義者都認為，我們不需要擔心，但二者不擔心的原因卻很不同：前者相信，人類水平的通用人工智能在可預見的未來不會發生，而後者則認為，它當然會發生，但可以肯定地說，這絕對是一件好事。人工智能有益運動支持者則覺得，擔憂是有必要和有用的，因為人工智能安全方面的研究和討論會提高"結果是好事"的可能性。盧德主義者則相信，結果一定是壞的，所以反對人工智能。
數字烏托邦主義者：數字生命是宇宙進化的天賜之選
小時候， 我認為億萬富翁都是浮誇和自大的， 但2008 年，當我在谷歌公司遇到拉里· 佩奇時，他完全顛覆了我的刻板印象。佩奇穿著一條休閒牛仔褲，一件非常普通的襯衫。如果他坐在麻省理工學院的草地上，一定會迅速地融入野餐的人群。佩奇講話的時候很溫和，笑起來十分友善， 這讓我在和他交談時感到很放鬆， 沒有一絲緊張感。
2015年7月18日，埃隆· 馬斯克和他前妻塔盧拉· 賴利(Talulah Riley)在納帕谷舉行了一個宴會。在宴會上，我遇到了佩奇，聊起了我們的孩子對糞便的共同興趣。我推薦了安迪· 格里菲思(Andy Griffiths)的經典作品《我的屁股發瘋的那天》(The Day My Butt Went Psycho)，佩奇馬上就買了一本。我不斷地提醒自己，他可能是人類歷史上最具影響力的人：我猜測，假設在我的有生之年出現了吞噬宇宙的超級智能數字生命，這個決定應該就是佩奇做出的。
後來，我們與我們的妻子們——露西· 索斯沃斯(Lucy Southworth)和梅亞· 奇塔· 泰格馬克(Meia Chita-Tegmark)一起共進晚餐。在席間，我們討論了機器會不會產生意識這個問題。佩奇認為，這個問題是在混淆視聽，並沒那麼重要。稍晚些時候，在雞尾酒會之後，佩奇和馬斯克展開了一場冗長但熱烈的辯論，主題是人工智能的未來以及我們應該為此做些什麼。
到凌晨時，圍觀者變得越來越多。我認為，佩奇激烈維護的觀點正是我認為的"數字烏托邦主義者"特有的觀點。這個派別認為，數字生命是宇宙進化自然而然、令人期待的下一步，如果我們讓數字智能自由地發展，而不是試著阻止或奴役它們，那麼，幾乎可以肯定地說，結果一定會是好的。我認為，佩奇是數字烏托邦主義最具影響力的支持者。他說，如果生命會散播到銀河系各處甚至河外星系（他認為這肯定會發生），那麼，這應當以數字生命的形式發生。他最大的擔心是，人們對人工智能的猜疑和妄想會延遲這個數字烏托邦的到來，而且可能會導致邪惡的人工智能發動軍事叛亂， 接管人類社會， 違背谷歌" 不作惡" 的座右銘。
馬斯克則一直還擊，要求佩奇把觀點講得更詳細一些，比如，為什麼他如此相信數字生命不會毀滅我們關心的一切。佩奇時不時抱怨馬斯克有"物種歧視"：只因某些生命形式是硅基而非碳基就認為它們低人一等。
從第4章開始，我們會回到這些有趣的問題上，進行詳細的探討。在那個炎熱夏日的泳池邊，儘管佩奇似乎有些寡不敵眾，但實際上，他極力維護的"數字烏托邦主義"擁有許多支持者。1988 年，機器人學家兼未來學家漢斯· 莫拉維克(Hans Moravec)寫了一本經典著作《智力後裔》(Mind Children)，這本書啟發了整整一代數字烏托邦主義者。因此，這一觀點得以延續下來，後來又被未來學家雷· 庫茲韋爾(Ray Kurzweil)所提煉。理查德· 薩頓(Richard Sutton)是人工智能領域強化學習的先驅，在我們于波多黎各島舉行的會議上，他激情四射地捍衛了數字烏托邦主義。我之後會簡略地給你講講這個會議的情況。
技術懷疑主義者：沒有必要杞人憂天
有些思想家一點也不擔心人工智能將會帶來的影響，不過，不擔心的原因卻與數字烏托邦主義者截然不同。這些思想家認為，建造超人類水平的通用人工智能實在太困難了，沒有幾百年的時間，根本無法實現，因此沒必要杞人憂天。我把這種觀點稱為"技術懷疑主義"。擁有"中國谷歌"之稱的百度的前首席科學家吳恩達對這種觀點進行了很好的闡釋："擔心殺手機器人的崛起，就好像擔心火星出現人口過剩一樣。"
最近在波士頓的一場會議上，吳恩達再次向我重申了自己的這個觀點。他還告訴我，他擔心對人工智能風險的擔憂可能會引導人們對人工智能充滿惡意，從而制約人工智能的發展。還有一些技術懷疑主義者也發表過類似的言論，比如Roomba 掃地機器人和Baxter 工業機器人制作背後的原麻省理工學院教授羅德尼· 布魯克斯。
吳恩達
我發現一個很有趣的事實：儘管數字烏托邦主義者和技術懷疑主義者都認為我們無須擔心人工智能，但在其他事情上，兩者的共同點卻少之又少。大部分烏托邦主義者認為，與人類智能水平相當的通用人工智能可能會在20～100 年內實現，而技術懷疑主義者認為，這是一種烏托邦式的幻想，他們經常會嘲笑一些人預測的"奇點"， 並將其戲謔為"書呆子的臆想"。2014 年12 月的一個生日宴會上，我遇到了布魯克斯，他對我說，他百分之百地肯定，奇點不會發生在我的有生之年。"你確定你的意思不是99% ？"在後來的一封郵件中，我如此問道。他回覆我說："不是沒用的99%。就是100%。奇點根本不會發生。"
人工智能有益運動支持者：人工智能的研究必須以安全為前提
2014 年6 月，我在巴黎的一家咖啡館第一次遇到了人工智能先驅斯圖爾特· 羅素，他是典型的英國紳士，彬彬有禮。而且，他能言善辯，思維縝密，語調溫和，眼中閃爍著富於冒險的光芒。在我眼中，他彷彿就是斐利亞· 福克的現代版本。福克是儒勒· 凡爾納於1873 年的小說《八十天環遊地球》中的人物，是我童年時代心目中的英雄。雖然羅素是迄今在世的最著名的人工智能研究者之一，也是人工智能領域的標準教科書的作者之一，但他的謙遜和熱情很快讓我放鬆下來。他向我解釋說，人工智能領域的進展讓他相信，與人類智能水平相當的通用人工智能真的有可能在本世紀內變成現實。儘管他充滿希望，但他明白，並不是百分之百會產生好的結果。我們必須先回答一些重要的問題，而這些問題又是非常難以回答的，我們應該從現在就開始研究，這樣，到我們需要它們時，手邊才會有現成的答案。
今天，羅素的想法比較符合主流的觀點。全球各地有許多團隊正在進行他支持的人工智能安全性(AI-safety)研究。不過，對人工智能安全性的研究並不是歷來如此。《華盛頓郵報》一篇文章將2015 年視為人工智能安全性研究進入主流視野的元年。在那之前，對人工智能風險的討論常常被主流人工智能研究者所誤解和忽視，而且，他們將進行人工智能安全性研究的人視為企圖阻礙人工智能進步並四處散播謠言的"盧德分子"。我們將在第5章繼續探討這個話題。
斯圖爾特· 羅素
實際上， 與羅素類似的擔憂最早是由計算機先驅艾倫· 圖靈和數學家歐文· 古德在半個世紀之前提出來的，古德與圖靈在第二次世界大戰中一起破譯過德國軍事的密碼。在過去的10 年裡，關於人工智能安全性的研究主要由一些獨立思想家來完成，比如埃利澤· 尤德考斯基(EliezerYudkowsky)、邁克爾· 瓦薩(Michael Vassar)和尼克· 波斯特洛姆(NickBostrom)，不過，他們並不是專業的人工智能研究者。這些人的研究對主流人工智能研究者影響甚微，因為主流研究者總是聚焦於他們的日常工作——如何讓人工智能系統變得更智能，而不是思考如果他們成功了會造成什麼樣的長期後果。我認識的一些人工智能研究者，即便他們心中略有遲疑，也不太願意表達出來，因為擔心自己會被視為危言聳聽的技術恐慌者。
我覺得，這種有失偏頗的情況需要被改變，這樣，整個人工智能界才能聯合起來，一起討論如何建造對人類有益的人工智能。幸運的是，我並不是孤身一人在作戰。2014 年春天，我與我妻子梅亞、我的物理學家朋友安東尼· 阿吉雷、哈佛大學的研究生維多利亞· 克拉科芙娜以及Skype 創始人揚· 塔裡安一起，成立了一個非營利性組織"未來生命研究所"(Future of Life Institute，簡稱FLI)。我們的目標很簡單：保證生命在未來繼續存在下去，並儘可能的興旺發達。具體而言，我們認為，技術賦予了生命一種力量，這種力量要麼讓生命實現空前的興盛，要麼讓生命走向自我毀滅，而我們更青睞前一種。
2014年3月15日，未來生命研究所第一次會議在我家舉行，我們開啟了一場頭腦風暴。大約有30 人參加，與會者包括來自波士頓地區的學生、教授和其他思想家。會議在這個問題上達成了廣泛的共識，那就是，雖然我們也應該關注生物技術、核武器和氣候變化，但我們的第一個主要目標是幫助人工智能安全性研究進入主流視野。我在麻省理工學院物理系的同事、因研究夸克而獲得諾貝爾獎的弗蘭克· 韋爾切克建議我們，可以從撰寫專題文章開始， 吸引人們對這個問題的注意力，從而讓這個問題變得不容忽視。
於是，我向羅素（那時候我還沒見過他）和我的物理學同行史蒂芬· 霍金尋求幫助，他們二人都同意加入我和韋爾切克，作為共同作者，一起寫文章。雖然我們的專題文章改寫了很多次，但還是被《紐約時報》等眾多美國報紙拒絕，因此，我們將其發表在了我們在《赫芬頓郵報》的博客賬號上。
令我高興的是，《赫芬頓郵報》聯合創始人阿里安娜· 赫芬頓(Arianna Huffington)親自寫來郵件說："看到這篇文章， 我太激動了！ 我們會把它放在頭條的位置上。"於是，這篇文章被放在了主頁的頂部，並引發了一大波媒體對人工智能安全性研究的報道，這波熱潮一直延續到了當年的年底。埃隆· 馬斯克、比爾· 蓋茨等科技界領袖紛紛加入討論。同年秋天，尼克· 波斯特洛姆出版了《超級智能》一書，再一次點燃了公眾的討論熱情。
阿里安娜· 赫芬頓
在未來生命研究所，人工智能有益運動的下一個目標是讓世界頂級的人工智能研究者齊聚一堂，澄清誤解，鑄就共識，並提出富有建設性的計劃。我們知道，想要說服一群享譽全球的科學家來參加一個由外行人組織的會議是很難的，尤其是會議的主題還如此富有爭議。因此，為了邀請到他們，我們竭盡了全力：禁止媒體參會；將會議時間安排在2015年1月份，地點安排在波多黎各的一個海濱度假村；免去了一切參會費用。
我們給這次會議起了一個我們所能想到的最不危言聳聽的標題："人工智能的未來：機遇與挑戰"。多虧我們的團隊中有斯圖爾特·羅素，因為有他的幫助，我們的組織委員會里才得以加入一批來自學術界和產業界的人工智能領袖，包括人工智能企業DeepMind 創始人德米斯·哈薩比斯（Demis Hassabis），正是他，在2017 年向人們證明了人工智能可以在圍棋中打敗人類。我對哈薩比斯瞭解得越多，就越發現他的熱情不僅在於讓人工智能變得更強大，還在於讓人工智能變得有益於人類。結果，這是一場心靈的非凡碰撞。人工智能研究者、頂級經濟學家、法律學者、科技領袖等思想家齊聚一堂，這些人中包括埃隆· 馬斯克和提出了" 奇點"(Singularity)這個詞的科幻作家弗諾· 文奇，我們會在第4 章聚焦這個話題。
這次會議的結果超過了我們最樂觀的預期。或許，是因為有陽光與紅酒的相伴，又或許，是因為時機正好。儘管話題很有爭議，但我們最後還是達成了一份了不起的共識。我們將共識的詳細內容寫入了一封公開信，最後有8 000 多人簽名，其中涵蓋了名副其實的"人工智能名人譜"。公開信的主旨是，我們應該重新定義人工智能的目標：創造目標有益的智能，而不是漫無目標的智能。公開信還提到了一份研究課題列表。參會者都同意，這些課題能進一步推進上述目標。人工智能有益運動開始逐步進入主流社會。在本書之後的章節中，我們將會介紹該運動的後續進展。
這個會議的另一個重要收穫是：人工智能的成功所引發的問題不僅在智識上令人著迷，而且在道德上也非常重要，因為我們的選擇可能會影響生命的整個未來。在歷史上，人類所做出的選擇的倫理意義固然很重要，但卻時常受到限制：我們能從最嚴重的瘟疫中恢復，但最雄偉的帝國最終也會分崩離析。在過去，人們知道，無論什麼時候，人類都會面臨常年不斷的災害，比如貧窮、疾病和戰爭，這個事實就像太陽早晨一定會升起一樣肯定，因此，我們必須想盡辦法解決這些問題。不過，波多黎各會議上的一些發言人稱，現今面臨的問題可能和以前不一樣。他們說，這是歷史上頭一遭，我們或許能發明出足夠強大的科技，可以將那些災害永久性地清除出去；又或者，它也可能將人類推向末日。我們可能會在地球上甚至地球之外構建出一個空前繁榮的社會，同時也可能會讓全世界都處於強大的卡夫卡式的監控之下。
送書福利
想要立即獲得本書？那就快點擊文章下方的“閱讀原文”前去購買！
在本條推送下留言，談一談你對生命定義的看法，更有機會獲得我們免費送出的《生命3.0》哦！活動截止時間為2018年7月24日中午12點，一共3本，快來加入我們的留言互動吧！
◆ ◆ ◆ ◆ ◆
點擊你感興趣的關鍵詞
立即獲得關於TA的更多信息！
......
閱讀更多 商業週刊 的文章
