和我一起成長進化
Think big Think different
我常常好奇，人工智能的未來將會是怎樣的圖景？人類將與機器人如何相處？世界的規則是否會被打破重建？
對於這些問題，顯然有人比我更好奇。他甚至專門寫了本書——《生命3.0》，來探尋人工智能時代人類的未來。這位作者是宇宙學家、麻省理工學院教授、生命未來研究所的創始人之一，名叫邁克斯·泰格馬克。
幾個月前，我曾經讀過《生命3.0》，還就此寫下一篇隨筆《胎生、卵生和進化——關於生命進化的思考》。今天下午，邁克斯·泰格馬克來到獵豹移動全球總部做客。我帶他品嚐了機械臂製作的咖啡，然後聊了聊AI的安全和未來。以下是對話內容：
1
中國在AI應用上領先美國 開創性上仍待努力
中國在AI領域上面的優勢在哪裡？
中美兩國在AI領域上面的差異到底有哪些？
大眾對於AI的接受程度？
在教育、企業當中，對於AI的熱情是否有區別？
邁克斯·泰格馬克：
中國在AI Tools上領先西方
其實無論是在中國還是在美國，大家對AI都是非常狂熱的，我認為中國在AI上有很多方面（比如AI Tools）都已經領先了西方，比如說中國的支付系統現在都非常發達。
在中國現在大家都用移動支付，中國在科技方面雖然起步的晚，但是發展得很快。 就像美國的科技雖然比歐洲起步的晚，但是我們現在也發展得很快。
我覺得中國現在在很多方面的能量都比西方更加有衝勁、有雄心。
中國現在有近14億消費者，有一個非常統一的市場，我們還有大數據，中國的企業現在也發展得很好，我覺得中國在AI的很多方面都在領先世界。
傅盛：
中國在應用上領先，美國探索注重底層規律
非常感謝教授對中國科技的推崇，但是我作為一個土生土長的中國的創業者，我認為在AI這個領域，中國在應用上的確是在領先的，但是在底層AI規律的探索上，今天美國還是有一大批的科學家和思想家，他們做出的開創性的貢獻和思考是我們今天還不能比的。
我們能夠迅速的把一種已經被證明的技術，用更大的規模、更好效率的去應用，但在開腦洞、開創性的思維邏輯上，其實我們還是有非常大的不足。
2
《生命3.0》這本書中最感興趣的點
“我也很好奇，
我的《生命3.0》裡面，
哪一部分是您最感興趣的呢？“
傅盛：
我們對這個世界的認識，不以我們的意志為轉移
這本書其實我讀了一半的時候，就覺得這本書太燒腦了。
人類為什麼不能夠從胎生變成卵生？其實我們仔細想想生命的進化是一個非常有意思的事情，哺乳動物胎生是為了逃避當年恐龍的一種巨大的競爭者對我們的壓迫，你生的蛋都被吃光了就沒了，所以帶著蛋走，就變成了胎生。
但是，今天其實你看看，胎生已經成為了一個巨大的社會問題，對於女性來說，對於家庭的和諧來說，都是巨大的問題。如果今天人能夠生一堆蛋在哪兒，然後再去領孩子，我相信這個社會會更加的和諧。其實我得說，這是教授的書給我帶來的靈感。
因為，我們在考慮生命的時候，我們更多的是以人類的“自我”出發的，因為我們覺得我們是最有靈性的生命，所以我們認為所有的東西都圍繞著我們，但是看了這本書以後，關於生命的終極思考，我們是很少用上帝視角去思考生命是如何進化的，它為什麼進化到今天？它以後會是什麼樣的形式？
我們對這個世界的認識，並不以我們的意志為轉移。
所以，我覺得這本書應該說非常好的打開了我對生命的一些思考，這樣反過來對於整個人生的思考應該也是非常非常有幫助的。
3
為什麼美國在AI基礎研究方面做得更好？
美國除了擁有全世界最出色的人才，還擁有什麼？
是什麼吸引了人才去美國做基礎研究？
邁克斯·泰格馬克：
擁有不同文化背景的人，塑造了吸引人的社會文化環境
第一，中國現在在技術上還有應用上都非常的發達，你剛才提到的，可能美國在基礎方面做得更好，但是我覺得這一點不光因為美國有人才，還因為美國有這種文化氛圍。
也就是說，在基礎研究方面，美國人寫了很多論文，但是這些論文其實更多都是在美國的其它國家的人寫的，比如說我自己，我就是一個瑞典人，我現在是在美國工作，我有很多優秀的學生他們都來自中國。所以，美國在人工智能基礎領域的發達，不光是和人有關，也和美國的文化有關，尤其是美國有非常多的好大學，我們的硅谷也有一個很好的吸引人才的環境。
所以，我們就有著來自世界各地的人才。
我今天來到獵豹，我覺得獵豹不僅有非常多優秀的員工，我們的企業文化，包括我們今天美麗的環境，它也能夠促進人才的繁榮和發展。
如果中國能像獵豹一樣有這麼多的人才，有非常好的企業文化的話，我覺得中國在AI的基礎領域上面也會發展的更好。
第二，文化層面上來說，我們人類面臨的未來的是人類和機器相融合，人類和機器和平共處的未來，我認為中國不僅技術方面正在不斷進步，在文化方面也有著朝前看的傳統。
當我寫這本書的時候，我就在想的一個主題，我們人類在期待著一個怎麼樣的未來？我們要走向一個什麼樣的未來？我覺得中國有一點非常好的就是我們有一個朝前看的文化，就是說我們想事情都會從一個非常長遠的角度（Long-term Thinking）出發思考。
可能我們美國人所謂的長期的思考、長遠的計劃也就是到下一次大選，可能就是隻會想未來的3～4年之內的事情，但是中國人想的就更加長遠。
所以，我認為如果我們能夠繼續高瞻遠矚的思維方式，結合我們的技術，並且堅持下去，結合我們的技術和中國的文化，中國在AI的發展上一定能有自己獨特的優勢去引領行業。
4
抵制殺手機器人運動：
AI的安全性？(AI Security)
怎樣看待AI安全？
在未來，機器人安全嗎？
討論這個問題的意義在哪裡？
邁克斯·泰格馬克：
科技不斷進步，我們不能再從錯誤中學習了
我覺得我們的AI的研究者一定要劃清界限，讓AI用於好的方面，而不是用來殺人。
在北京我們可以看到，生化的發展已經用於治癒很多的疾病。其實AI的研究者也可以像生物化學家一樣，嚴禁把生物化學武器用在非常邪惡的事情上面，禁止研究致命性的AI殺人武器，其實也是
我們希望AI能夠用於有益於人類的事業上面。在今年的3月份我來中國和很多文化圈的人還有企業家會面，我就看到中國是第一個有決心禁止自動化殺人武器的超級大國，我希望將來能有更多的國家加入這個行列，去禁止研究AI自動化殺人武器，我也希望能夠有更多西方國家和公司能夠加入這個行列。
這樣，AI就可以為人類造福，就像生化武器用於治癒疾病一樣，在大的層面我對人類的未來還是很樂觀的，我覺得有了高科技我們能夠在這場人類與機器的對抗中勝出。
在AI技術非常發達的今天，我們不能再從錯誤中學習了。所以我們才簽署了禁止自動化殺人武器的宣言，希望我們能夠提前預測科技可能給人類帶來的危害，有一些前瞻性的措施，然後才能保證未來這些非常強大的技術都用在有益於人類的事情上面。
5
如何界定AI武器？
核武器、生化武器有非常清晰的界限
但AI武器怎麼界定？
飛機的自動瞄準
無人機的自動駕駛
自動攻擊算不算一種AI武器？
邁克斯·泰格馬克：
自動化殺人武器，它可以自主去決定它要殺誰，而不是由人來決定的。
這個問題非常好。
我們討論的“自動化殺人武器”是一個比較窄的方面，說的致命這一條，指的它是殺人的武器，而沒有說我們在反對建造一個導彈防禦系統，不是反對建造那種去消滅敵人的導彈防禦系統。
它不像咱們今天的遠程控制系統是由人來決定的，現在如果有了一個能夠人臉識別的無人機，它是不是可以專門去殺某個國家的人？所以這種武器是非常可怕的。
今天這個自動化殺人武器是AI領域一個經常被討論的熱門話題，那麼其中的界限到底是在哪裡呢？
我們在美國其實也在進行這方面的討論。之前傅總問過我，我們現在開始談論禁止自動化殺人武器，以及禁止簽約、禁止研發自動殺人武器是不是還太早了？我覺得一點都不早，我們必須要提前防止AI開發這種自動性殺人武器，才能防止將來的軍備競賽。
就像生物化學家在致命性的生化武器開始研發之前，就已經達成一致不去研發這種有害的生化武器一樣，這一點也是我們在道德層面的責任。
6
獵豹做機器人產品時的安全性考慮？
服務於人的同時，如何給人帶來更安全的服務？
傅盛 ：
用技術能力保證機器人的高安全性能
我們的接待服務機器人“豹小秘”現在是沒有手的。
這個在設計的時候是反覆討論過的。為機器人裝上兩隻手，顯得很像人，動一動、跳個舞，也挺吸引眼球的。但是，今天手的技術並不能在移動的機器人上給用戶提供有用的功能。
於是，我們在豹小秘的設計上，用了很嚴格的像激光、超聲波、紅外線多傳感器的融合，保證它的避障能力，當旁邊有人的時候，它一定會自動降速，保證安全。
我們以前就是安全公司，深深懂得這種設備一旦被控制就會產生很嚴重的後果，所以我們也在技術層加了一些硬指令，就是無論你怎麼去指揮，它也不會去做危險的事情。
在這個崗位上也有專門的安全工程師做安全的審核，和以前手機、電腦這樣的設備一個最大的不同，是它能夠跟物理世界發生實時交互。不管它跟人發生了實體的任何交互，最後總得讓人按一下，這表示是人做的決定，而不是機器做的決定。
邁克斯·泰格馬克：
預判它可能產生的風險，才能真正防止風險發生
我非常同意傅總說的，因為我知道獵豹是一家非常有安全意識的公司，最開始是做安全軟件起家的。
我認為機器人可能會在兩個方面給人類帶來危害：
第一，它的功能失靈。
第二，它被設計成一種對人產生危害的武器。
還有一種可能就是它可能會被黑。
獵豹的企業文化就是安全第一，所以在發展的時候，也一直都非常關注安全問題。你們開發一個功能的時候，首先就會去想它可能面臨的一些風險。
我們提前想好開發這個東西，去構思它可能會產生什麼樣的風險，才能防止將來它真的產生這種風險。
7
人類會被機器人取代嗎？
到了“生命3.0”階段，當機器人可以自我學習、自我提升時，人類是不是就會被機器人所超越和取代？
我們將去如何面對這樣的一個未來？
傅盛：
人類作為一 種生命形式肯定是會被超越的
讀完教授的書我就想起了中國的一個詞，叫“滄海一粟”。
其實人類在整個的生命進化當中，就是滄海一粟。而且我們從來沒想過我們會出現在這裡，我覺得整個人類的發展史是一個把自己從中心地位不斷地給“去中心化”的過程。
最早我們認為我們是神的繼承人，是上帝造出來的，後來慢慢發現地球是繞著太陽轉的，也都承認我們是從猩猩變過來的。
所以，從哲學的角度上來說，我認為人類作為一個生命形式是肯定會被超越的，我們今天之所以在這裡實際上是一個環境的產物，是環境不斷地變化才使得生命往復雜在變化。
其實就跟講卵生和胎生一樣，胎生是在幾百萬年，或者是幾千萬年我們形成的這種能力，但在今天的社會里，這種能力其實未必是我們真的需要的。我們作為地球的一員，我也看過《黑客帝國》，其中有一句話讓我的印象非常的深刻——
“人類才是病毒”。因為我們對能量的消耗、環境的消耗，在我們這種生命形式下其實是非常嚴重的。
從技術觀點上來說，我個人不太認為今天的AI就是深度學習這項技術，有機會真正的變成一個超越人的技術。比如說像埃隆馬斯克現在做的“腦機交互”，讓人腦和AI發生更直接的、相互的交互，使得我們整個生命再上一個檔次，可能是看得到的更有效的路徑。
邁克斯·泰格馬克：
未來的AI讓人類能造自己的“神”
（We are building God for ourselves, the question is what kind of God we want to build?）
我覺得傅總剛才說得也很有趣，因為我的妻子她也是《黑客帝國》的粉絲，也就是你剛才說的我們“人類就像病毒”一樣，我們對環境帶來了很多的危害。其實，在這一點上技術可以幫助人類改變我們現在的局面。
所以，我很興奮的看到中國現在在可持續能源上面一直在領先世界，比如說在風能和太陽能方面，所以也許我如果10年之後再來北京就會發現，北京的天空會比今天更藍，這不是因為未來的人會更少，而是因為我們的技術會更加的發達，所以人類就不會再像病毒一樣去危害我們的自然環境。
剛才傅總也提到了，在未來，我們人類其實是從進化而來的，而不是上帝造的，我認為未來AI的發展可以讓我們反過來，就是說我們人類可以造一個神，人類可以造一個我們所期待的未來，與其問“未來會發生什麼？”（What will happen?），不如問“我們希望未來發生什麼？”(What would we like to happen?)。
我們想要一個什麼樣的未來？我們希望未來的文化和社會是什麼樣的呢？我們如何建立一個人人都能夠生活更好的未來？
這都是我們現在要去思考的，我也同意傅總剛才提到的，深度學習現在還沒有人類那麼聰明，可能短暫的時間內也不會像人那麼聰明，但是有了AI技術的話，我們還是可以實現一些改變。
也就是說，將來AI的技術會不斷地發展，雖然現在還是我們人類來設計一切，但是未來如果我們能夠結合深度學習和AI技術的話，也許AI就可以達到人類的思考水平，它現在能夠進行人臉識別和機器人的控制，但在人類獨有的抽象思維（Abstract）和理性思維（Reasoning）上，是不可及的。
將來我們把現有的AI技術與邏輯思維的能力結合在一起，也許就可以實現通用人工智能，我們就可以自己造一個神，讓它去實現我們人類的目標。
有任何創業、職業、個人成長等問題，歡迎添加微信（ID：fsgogo）。
閱讀更多 傅盛 的文章
