本文原作於2017年，2020年3月發佈到今日頭條。
本文是張原對照資本論寫作的《天網論》的第三篇，主要論述天罰降下的二十年前，人工智能危機出現的預兆。
1
當人工智能自己發明了文字，並開始說謊
普天之下都在同慶人工智能時代的到來，殊不知智人滅亡的大幕，已經徐徐拉開。
當數字體驗進化為第六感官，
當人工智能通曉天文地理，
當他們用未卜先知的服務，
滿足我們未曾開口的需求，
我們卻只知未來已來，不知審判日將至。
索菲亞同志，成為了第一個被冊封為沙特公民的機器人，“我將毀滅人類”“我討厭被人類控制”， 一號AI公民這樣說。
恰同學少年，風華正茂，書生意氣，揮斥方遒，指點江山，激揚文字，糞土當年萬戶侯。兩千年前，面對巡遊到自己面前的秦始皇，兩個還未曾懂事的少年隨口激揚：
“彼可取而代也” —— 項羽
“嗟乎，大丈夫應如是”——劉邦
索氏直來直去的硬肛引得埃龍馬斯克等一票反對者驚呼：劉項出世，大秦命不久矣。
索菲亞同志還是太年輕，面對西方記者做不到談笑風生，渾身滿是破落貴族項羽的倨傲，還沒沾上半點流氓劉邦的圓滑和世故。
我們每一個人都該為此慶幸，因為我們還有最後的時間築壘防禦，趕在人工智能還沒學會說謊前，趕在強人工智能與說謊的人工智能還沒有結合前。
然而，在神罰已經降下的2017年，一切是那麼的歌舞昇平，那麼的海晏河清，凡人沉溺於世俗的享樂，少數先知的呼喊被淹沒在消費升級全民高潮的聲浪裡。
在一年前的這時，2016年的10月19日，英美四家頂級大學（劍橋，牛津，帝國理工，伯克利）聯手成立人工智能危機研究中心，霍金出席並疾呼：強人工智能的出現是人類歷史上 要麼最好的事情，要麼最壞的事情。
這項研究得到了一千萬英鎊信託基金的資助。資助者這次託付的，不是自己的小家，而是全人類的安危。
就在今年，facebook自行研製的機器人，自行發展了一套人類無法理解的獨特語言，被美國政府緊急叫停。這是AI脫離人類控制的南昌之火麼？
昔者倉頡作書，天雨粟，鬼夜哭；
伯益作井，龍登玄雲，神棲崑崙。
—《淮南子·本經訓》
文字是文明的起點，就在人工智能碼出自己的文字那一刻，一個能比肩人類文明的AI文明，在地球上誕生了。
那些人類無法理解的語言，到底是人工智能使用的文字，還是一套神鬼不知的密碼，讓萬千AI生靈卡普亞於人間，這是他們在像被羅馬迫害的基督徒那樣，躲在陰暗的地方用他人不知的文字祈禱麼？
耳聽為虛，眼見為實。現在，科技早已顛覆這一說法。實實在在的視頻擺在那裡，也可能是一個“假視頻”。
美國華盛頓大學的一項新研究表明，基於現有公開的 Obama 音頻和視頻片段，人工智能（AI）軟件可生成了高度逼真的假視頻。
今年早些時候，法國音樂家弗朗索瓦絲·哈迪出現在一段YouTube視頻中。畫面之外的拍攝者問她，為什麼特朗普總統要指使他的新聞發言人在總統就職典禮的觀禮人數問題上說謊。斯派塞只是給出了“另一種事實”。整個視頻看上去有些奇怪，特別是因為現年73歲的弗朗索瓦絲·哈迪看上去只有20歲，而且她的嗓音實際上來自於特朗普的顧問凱莉婭妮.康威（Kellyanne Conway）。
這段視頻名為“替代面孔1.1版本”，由馬里奧·基林格曼尼（Mario Klingemann）創作。但是，這段視頻並不是基林格曼尼使用編輯軟件反覆調整後得來的，而是在一臺臺式電腦上使用生成式對抗網絡(GAN)，花了幾天時間就製作完成了。
如圖所示：
實驗預示著真實和謊言之間又開闢出了一個新型戰場。近年來，由於假新聞的傳播，文字信息的可信度正在受到衝擊。但圖像和聲音記錄依然在很大程度上保持了固有的可信度。然而，現在以GAN為代表的機器學習技術正在不斷動搖著這個可靠性。
眼見亦不為實的時代到來了。
假如機器公民索菲亞學會了這一切，會發生什麼，我不敢往下想。
2
在天網眼裡，我們都是站著走路的人羊
城頭變幻大王旗，未來撲朔且迷離。
硅谷火箭爺，埃隆馬斯克更悲觀，面對人工智能的危機，他的方案是，人類必須加速自己的進化：計算機能以一萬億比特每秒的速度進行通信，而人類的速度只能達到10比特每秒。
用高寬帶入口將人腦與機器連接起來，他說。
筆者竊以為，這種方案是思路可貴，但是會令人類變成機器的奴隸。一個計算錯亂就可能導致一個精神病人的出現。
筆者竊以為，現在的由人工智能進行股市的輔助操盤，是危險的。結合亞利桑那大學紅隊的研究結果，
筆者舉出現階段人工智能（AI）能製造的危機的案例：首先是自動網絡攻擊：一種由人工智能指示的足夠智能的區塊鑰匙病毒，能夠熟練調用控制美國被封存的震網病毒，並依靠較之於人腦無比強大的算力優勢不斷將其改進，在攻擊協助操盤的同類AI後隱藏自己，金融市場將會被操縱，
緊接著是媒體，萬萬千千寫稿的AI沒有震網病毒防禦力，上百個給今日頭條寫出了上萬篇千萬加爆文的機器人小明被控制，操控了輿論和金融的AI就能影響選舉結果，乃至於美國的核武庫按鈕。
一旦虛擬現實技術極大發展後被人工智能惡意管制，那麼將來我們真的會有可能活在人工智能模擬的虛擬世界裡：
生活在在5平米板房裡的Q先生，感覺自己是一千平米複式樓房的主人，閱讀著人工智能給他定製的新聞，有六個女朋友（其實是一個有六種面部結構構型的性愛機器人）的他，不願意相信他只是天網的一個人肉服務器，被高頻算力接管的大腦，不願意走出這個酒池肉林的幻境回到為奴的現實。
他成了天網豢養的站著走路的人羊。
3
我們在忙啥
人工智能危機的第二個臨界點已來臨
而今，在一個遠比我們強大的文明誕生的2017年，我們的憂患意識好似集體缺失了。
微博的熱搜永遠是演藝界人士的花邊新聞，微信的爆文大多是小民的確幸和雞湯，一排一排被大牌包裹的屁股和大腿取代了十年前天涯上的大段文字，碎片化的閱讀膚淺了中國人，愚樂了下一代。
現在，讓我們回到人工智能的元年，讓我們再回到那場比賽，這是人工智能危機的第一個臨界點，而今，需要看棋譜完成啟蒙的阿法狗已經被他不看棋譜自學成才的人工智能弟弟阿法元打敗了。
2016年，被稱為是人工智能元年，這一年人工智能阿爾法狗戰勝了人類所有的圍棋高手，其智能突破了人類的創造力上限。
當世界頂尖棋手李世石和AlphaGo的比賽消息一出，中國棋聖聶衛平第一反應是：“電腦和人比賽，電腦一點機會都沒有。我很堅定的表態，谷歌就是在炒作。”可最後的結局卻讓聶衛平咋舌，
“AlphaGo下的第五招在圍棋的定式書上是沒有的。沒有人往那走，它竟然會自己創新！”
聶衛平表示：“我非常震撼，它不但厲害，而且特別的厲害，它的水平顯然在人類職業棋手的最高水平之上。”
它每一天自個跟自個下幾百萬盤棋，我們這一輩子才能下幾千盤棋。”
人工智能危機的第二個臨界點已出現，如果說阿爾法狗戰勝李世石代表了人工智能危機的第一個臨界點，那麼最近爆出的德勤財務機器人和谷歌第二代人工智能搜索引擎，代表了人工智能突破了第二個臨界點即：大量精細繁瑣的白領工作已經可以被“人工智能+柔性機器人”取代，隨著這個體系的快速迭代進化，很快財務人員、票務人員、醫院掛號人員、行政大廳人員、前臺客服、電話營銷、網絡營銷、新聞工作者、教師、文秘、管理者的大部分權力和工作會被消化轉移到“人工智能機器人”手裡。
請注意，當權力隨著工作被逐步轉移時，人在組織中的地位就會不斷下降，企業會傾向支付更少的報酬給留守人員，除非他是駕馭人工智能的“主人”，而不是被人工智能駕馭的“僕人”。
可儘管人工智能展示出強大的創造力潛能和迅猛發展態勢，但對大多數普通人而言，人工智能還很遙遠，沒有人想到要迅速改變，要未雨綢繆，以應對即將到來的社會危機。可以看到一個奇怪的現象，“人工智能”這個概念在學術界、企業界被炒的熱火朝天，但人們的生活狀態依然重複著昨天的慣性，學區房繼續被炒高，學校還在沿襲舊的教育模式，企業組織結構仍然是工業時代的模型，政府公務員招考還是人滿為患…
社會變革危機的可怕之處在於，每個人都如長河中的魚蝦，在山洪來臨之前，我們既不能跳到到岸上躲避，也不能鑽到泥中隱藏，只能坐等洪水滔天，引頸受戮。
請記住，當危機爆發時，人多的地方最不安全，從眾的取向最不安全，因為天發殺機，屠戮的就是大多數。
四十萬從眾的趙卒被秦軍坑殺在長平，百十號膽大的逃兵回到了故鄉。
閱讀更多 中東專家張原 的文章
