↡
01
智能化的物理環境總令人聯想到重重開合的金屬型圓門，眼球識別，觸控的半透明藍色屏幕，扁平而巨大的操作間裡身著「太空服」的工作人員一動不動或穿梭往返……在科幻鉅製中，它是一個由直角構成的數學化的空間。
當這個空間冒出體型巨大的機器人與人發生社會交互行為時，觀眾覺得理所當然。
然而，從漆黑的電影院走出，在刺目的陽光下一陣暈眩，望著熙來攘往的街道揉揉眼睛，大腦過電般迅速重現剛剛的影像，不，這不是真的。只有菜市場的嘈雜，廚房裡的油煙，孩子的哭鬧與落入黃昏的晚照才是人間世相。
以上是科幻電影給我的一貫感受。
人怎麼會與冷冰冰的機器天天發生關係，即便有也是人在操縱機器，如若反過來讓機器操縱人，事情就顯得詭譎而危機四伏，令人不寒而慄。
我現在想對觀眾朋友們（東北話叫好朋友們）提個問：假如工作單位給你腦袋上套個「溫暖牌」電子監控器，以便對你的大腦信息做出即時分析，以調整你的狀態與行為，那麼你會怎麼做呢？
你接受這種行為嗎？如果不接受，那是為什麼？
02
據《南華早報》報道，有工廠引進員工腦電波掃描系統，敷設在工人帽子上的傳感器追蹤腦電波。人工智能對工人的心理情緒狀況進行實時分析並得出結論。這樣，公司就能夠優化工作流程。
在工人整個值班期間，傳感器會持續收集腦活動數據，通過對這些數據的分析，能獲悉工人的煩躁，抑鬱和消極心態。此時把工人送去休息，或許有利於生產效率和企業的人文建設。
據說，火車司機、複雜設備操作者、電力網工作人員在工作時需要高度集中精力，這類員工已經採用了腦電波掃描系統。
這麼做到底有沒有效？為此俄羅斯衛星通訊社專門對我進行了一次採訪。
這實際上涉及到的是人工智能的科學運用問題。通常，我們傾向於相信新技術在試驗階段之後，會給人的生活生產帶來飛躍性的幫助，在過去的歷史經驗中，技術革新遵循這一規律。就此我首先表明了自己對應用新技術的樂觀態度。
因為《南華早報》說江省電力有限公司從2014年起開始對員工使用情緒監控技術，此後盈利增長了約20億人民幣（約合3.15億美元）——不知這一信息來源是否真切。
另外，上海一家醫院採用了腦造影術，是很先進的前沿技術。該系統對病人的腦部活動進行掃描，藉助「智能監測攝像頭」分析他的臉部，同時在病床下面安裝一種確定機體運動和姿勢的傳感器。
人工智能對所有數據進行處理，以便確切預測病人的不合適行為，據說這對精神病院來說尤為迫切，要知道那兒的患者行為極具不確定性。
03
那麼是否可以依賴腦電波掃描系統？如果系統犯錯，或者數據解讀錯誤，責任將由誰承擔？
對於俄羅斯衛星通訊社的問題，我當時如是作答：
「我認為這個技術是靠譜的，至少從原理上來講，可行性是非常強的。至於這一系統的準確性具體能達到多大的百分比，我很難說。我只能說，這個系統從技術操作角度來說，是沒有多大障礙的。接下來就是要看更多的實踐結果。這就像一種新的藥物研發過程一樣，藥物研發出來之後，還需要幾年的臨床試驗。這一人腦監控技術的研發已經基本完成了，但是還需要通過‘臨床’來收集更多的數據，因為人工智能是靠兩條腿驅動的——一條腿是算法，另一條腿是數據。再好的算法，如果沒有大量的數據作支撐和配合，這樣的算法都是瘸腿的。此外，正如所有的規則都不可能百分之百平等，規則只能照顧到大多數人的公平，沒有百分之百公平的規則。具體到這個系統上，系統的確會存在一定的失誤率，不可能百分之百準確，但是隻要將失誤率控制在一個可控的範圍之內，就是可以接受的。」
04
在此之前，我就做過人工智能在未來生活中可能扮演什麼角色的分析，明確提出了醫生極可能失業的預測。
中醫講究望聞問切的診療手段，其有效性在西學東漸的一百來年逐步被各種機器所碾壓，無論身體哪個部位不適，對醫生來說，確診往往意味著你要走進B超室、CT室、核磁共振室，或者其它什麼化驗室，那些化驗單比病人口述帶來明確的結果和應對措施。
根據病例中積累的數據，醫生可以跟蹤病人的健康歷程，做出相對有利的判斷。從人工智能的角度而言，高度集成的科學算法，對病人的各種身體數據進行分析，顯然比情緒化的大夫更科學、精準和有效。
真到了那一天，醫院是否還需要醫生，會成為可怕但無奈的現實。就效率和經濟成本而言，一個醫院只要有一個院長和精於操作計算機的人就基本完善了。其他人員都將扮演打醬油的角色。
▲1月3日，在安徽醫科大學第一附屬醫院，骨科手術機器人輔助醫生進行手術。 圖/新華社
與此略有不同的是，我們今天所談的問題是對人腦的監控與診斷。當然不是判斷你是否腦血管有破損可能，大腦是否萎縮或有物理性病變，而是實時監控你的大腦活動，情緒狀況以及所思所想。
也就是說萬物之靈的人的頭腦，被機器所掌控，並據此調整你的「現狀」與行為模式。聽起來有些諷刺，但未必不是現實。
05
到此我首先想到一些棘手的狀況。比如按照性學家的分析，一個男人每四秒就會產生一次與性相關的念頭。假如腦電波掃描系統能夠成像，那一個人關聯的顯示器就會成為一幕連續不斷的A片現場——此情此景竟讓我無語凝噎。
人有悲歡離合，月有陰晴圓缺，笛卡爾對人的本質性的定義就是「我思故我在」。設想一個人的大腦出於善意的目的而被監控，這裡邊隱藏著很大的倫理風險。
人性是不可試探的，就如神聖是不可試探的一樣。
如果一個人明確地知道自己的思想被他人掌控，勢必帶來一個硬幣的兩個面，他可能被迫變得更主動和積極於工作，提高效率；也可能伴隨著消極思想的狀態，以便自我隱匿和保護——下班後能不能切換回來是很成問題的，長此以往人將變得拒絕思考停止進步。
按照道德的要求成為一個「心中無不可與人言者」的楷模是人的極致追求，在現實中能夠做到哪一步則個體差異極大。
當然，也有學者認為極難藉助腦造影術解讀心理情緒狀況，並且就目前在工廠進行實驗所取得的「成就」，也可能具有相對性。對此我們還是抱著審慎的樂觀態度拭目以待吧。
閱讀更多 劉興亮 的文章
