飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

2013年黑帽大會上,兩名黑客查理·米勒和克里斯·瓦拉塞克發表瞭如何使用一根數據線就能控制一輛汽車的細節,但這一事件並沒有引起汽車製造商的關注。兩年後,這兩名黑客在家裡控制了一輛2014年產的吉普切諾基,它以龜速爬行在高速公路上,司機叫天天不應叫地地不靈。這次事件讓克萊斯勒汽車公司召回了140萬輛車升級軟件,但在短短几個月之後,又被這兩名黑客找到了控制車輛的漏洞。

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

百度圖片

我們在電影中時常會看到這樣的場景:正常行駛中的汽車突然被遠程操控而失去控制,原本有序的街道頓時一片混亂。人們從失控的汽車中滾落,或躲避不及成為了受害者。

隨著科技的發展,無人機、無人駕駛汽車,已經不再是一種概念。他們正在逐漸從理想變成現實,慢慢走近普通人的生活。所以像電影中的場景,看似離我們很遙遠,但已經實實在在出現在了我們身邊。

汽車被頻頻遠程控制,是汽車製造商無能,還是編寫軟件的工程師錯誤百出,還是克萊斯勒公司本身的管理存在問題?汽車裡的網絡系統錯綜複雜,從手機連接汽車裡的娛樂系統,再從娛樂系統侵入30多個計算機,正是這些緊密聯繫、看似牢不可破的網絡系統,讓黑客找到了可趁之機。

手機、電腦、高鐵、飛機……這些與我們緊密聯繫的網絡系統,理論上應該是最安全的,但為什麼與我們的信息和生命密切相關的系統會釀成慘劇,變得危險呢?克里斯·克利爾菲爾德和安德拉什·蒂爾克斯在《崩潰》一書中,給了我們答案。

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

圖源豆瓣

作者克里斯曾在證券行業工作,經歷了雷曼兄弟銀行倒閉和全球股市動盪。在進行飛行員訓練的時候,克里斯對避免災難性錯誤的問題產生了興趣。安德拉什創辦了“組織機構災難性失靈”的課程,不同背景的經理人在這個課程中一起研究、分享他們遇到的崩潰事件。結合自身的經歷和他人分享的案例,克里斯和安德拉什將這些案例在《崩潰》一書中做了詳盡的描述和分析,給讀者帶來了寶貴的資料財富。

克里斯和安德拉什在《崩潰》一書中,給讀者講述了為什麼那些看上去強大無比的系統會失靈,看些看似不起眼的事件是怎樣增加了系統的複雜性,使系統緊密耦合。在面對複雜且緊密耦合的系統時,如何使用結構化決策、通過異常現象化學習、傾聽異見者的建議、建立多元化團隊和透明系統等,讓系統更加安全,避免系統的崩潰失靈。

一、複雜性和緊密耦合,讓系統崩潰的罪魁禍首

耶魯大學有個著名的“校園中最陰鬱的小組”,這裡的“陰鬱”不是指組員們的性格,而是他們研究的課題:災難。

《常態事故》的作者、災難學大師查爾斯·培洛是耶魯大學的一名教授。多年來,他帶領他的災難研究小組,對歷史上發生過或者正在發生的災難性事故進行原因調查和本質分析。飛機墜毀、化工廠爆炸,數以百計的災難事故研究,讓他們發現了一個驚人的結論:所有的事故發生,都可以歸咎於兩個誘發因素:系統複雜性和緊密耦合。

炒菜是個簡單的流程工作。熱鍋冷油,蔥薑蒜爆鍋,放入青菜翻炒,調味出鍋。在這個過程中,所有的環節透明可見且可以控制,所以說炒菜這個流程不具有複雜性。

複雜系統正好相反,整個系統不透明,各個環節以我們可知或者不可知的聯繫相互作用,能夠顯示系統工作的,可能僅僅是一個壓力錶,或者某個指示數字。無論系統內部出現了任何問題,我們都無法用肉眼直接觀察到。

曾經創造了鑽井史上奇蹟的“深水地平線號”發生了爆炸,造成11人喪生。爆炸發生後87天,英國石油公司堵住了一直持續的井噴,但是已經有近500萬桶石油洩漏進了墨西哥灣。

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

百度圖片

租賃“深水地平線號”這座鑽井平臺,英國石油公司每天需要支付100萬美金。所以英國石油公司的工程師希望進行更深入的鑽探,儘快找出新的石油資源。

水下高壓環境對於工程師們而言是個完全不透明的系統,他們看不到地層幾英里之下是什麼情況。他們只能依賴於計算機模擬、井壓、水泵流量這些儀器提供的數據,來判斷下一步應該做什麼。

不僅工作環境不透明,整個鑽井平臺的操作也是一個複雜的系統。精密的安全系統有30多個控制按鈕,應急手冊上描述的突發事件讓人看得暈頭轉向,根本不知道應該怎樣應對。理論誰都懂,但是一旦事件發生,大腦往往一片空白。

為了儘早完工,英國石油公司的工程師們忽略了接近臨界值的壓力指標,跳過了系統模擬測試,將問題掩蓋在了複雜性之下,於是災難發生了。

緊密耦合,顧名思義:環環相扣、嚴絲合縫,甚至還有讓人意想不到的“化學作用”。

好比你要從家出發去火車站,從家到地鐵需要30分鐘,坐地鐵到火車站需要1個小時,火車上午10點開車,你正好8點半從家出發,於是你完美地錯過了這班列車。這就是一個最簡單的緊密耦合過程。

第89屆奧斯卡《愛樂之城》的最佳影片獎,成為了奧斯卡史上最大的烏龍事件。克里斯和安德拉什在《崩潰》一書中,詳細分析了這次頒錯獎的前因後果。

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

百度圖片

普華永道會計事務所的合夥人卡利南和路茲統計了奧斯卡獲獎選票,每個獎項信封一式四份,分別在兩個一模一樣的公文包裡,各放了兩張一模一樣的獲獎信封。

奧斯卡頒獎典禮上,卡利南和路茲站在後臺,他們要做的是集中所有注意力,將正確的信封交到主持人手中。最佳影片獎的前一個獎項是最佳女演員,卡利南抽空拍了張艾瑪·斯通的照片發到了推特上,然後把下一個獲獎信封遞給了主持人。然而致命的是,卡利南片刻的走神,使他犯了一個巨大的錯誤:他遞給主持人的不是最佳影片獎的信封,而是兩張一模一樣的最佳女演員中的另一個!

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

百度圖片

獲獎卡片上電影的名字很大,而獎項的名字很小,主持人只看到了《愛樂之城》幾個字,便宣佈它獲得了最佳影片獎。

獲獎信封的準備方式、遞給主持人的卡片、獲獎名單的保密性、電視直播和觀眾,讓整個事件緊密耦合。

原本多準備的信封,是為了防止普華永道兩個合夥人中一個因為突然狀況無法到達現場,也是為了防止信封丟失,本意是為了多一道保障,增加安全性。但也正是為了增加這種安全性,同時也增加了系統的複雜性。

查爾斯·培洛指出:在緊密耦合的複雜體系中,安全系統是造成災難性失敗的最大根源,沒有之一。

如果沒有備用信封,卡利南就不會遞給主持人錯誤的信封,也就不會鬧了這麼一出烏龍笑話。

二、異常現象化學習,從微弱的警示中識別大錯誤

從上述的案例中可以看出,複雜性和緊密耦合雖然是造成系統崩潰的元兇,但是兩者往往在同一個系統中同時存在,

複雜性使系統緊密耦合,緊密耦合增加了系統的複雜性。兩者相輔相成 ,密不可分。

那麼有沒有辦法可以減少系統的複雜性或者緊密耦合,讓系統免於崩潰的災難呢?

克里斯和安德拉什在《崩潰》一書中指出,給系統加上鬆動空間,或者為了減少系統的複雜性而重新設計,可能會帶來更高的成本和較低的性能。但是與降低風險相比,所有的這些投入都是值得的。並且除了直接變更系統,還可以通過加強管理的手段來改善狀況,異常現象化學習就是個很有用的方法。

從任何小的過失和未遂事故中獲得經驗教訓,通過分析表象找出根本原因,這個學習過程就是“異常現象化學習”。

異常現象化學習首先要收集各種未遂事故報告和已經發生的錯誤事件。要發現系統哪裡出了問題,收集異常數據是非常重要的一環。

美國國家航空航天局在它的月報《回話》中報道了從飛行員、空中交通管制員、航空從業人員等那裡收集到的數千份異常情況報告。這些報告不僅限於在某個航空或者飛行機構內部分享,而是在整個行業中共享資源,讓整個行業都能瞭解到其他人所經歷過的異常情況和事故,從中獲得了哪些經驗和教訓,以便看到它們的人員和機構能夠避免相同的事故發生。

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

百度圖片

克里斯和安德拉什指出:分享未遂失誤能讓人們明白,錯誤是系統的一個正常部分,並幫助我們預想,當我們自己哪一天遇到問題時該怎麼辦。

第二步是解決這些異常問題。並不是說不去管事故發生的根本原因,只是在面對異常問題的時候,首先要先解決正在發生或者已經識別出的問題,這才是當務之急應該做的事情。

第三步就是深入挖掘,找出問題的根本原因並想辦法應對,這是非常關鍵的一步。最後一步還需要確認的是,我們在分析問題,找出根本原因之後所採取的行動是行之有效的。

蒐集未遂事故,馬上解決發現的異常情況,找出問題的根本原因和解決方案,將事故調查報告在全行業中分享,通過審計來考察所提供的解決方案是否行之有效,再蒐集未遂事故……整個過程是一個不斷循環往復的過程,系統的複雜性讓我們無法一次就將所有的問題找出和解決完畢,要不斷地去發現問題解決問題,將災難消滅在萌芽中。

三、鼓勵異見,直面“獨立思考之痛”

大家可能都能經歷過這樣的情況:當所有人都覺得某個問題的答案是A,只有你一個人認為答案是B的時候,你通常為了不給自己惹麻煩或者隨大流,也說答案是A。

為什麼不堅持己見,說出自己的想法,即使知道其他人答案是錯誤的時候,也會隨大流地跟著選擇錯誤的答案呢?

科學家使用機能性磁共振成像法在上述情況下觀察大腦的反應,當我們與他人的意見不同時,“大腦中探測錯誤相關的區域變得非常活躍”,大腦傳遞給我們的信號是:你犯錯誤了,趕緊改正!同時“大腦中預期獲得獎勵的區域活動也會減慢”,這部分大腦傳遞給我們的信號是:與別人不同對你可沒有好處。最後科學家們得出的結論是:當我們與團隊中的大多數人想法不一致的時候,我們的大腦會告訴我們這樣做會受到懲罰

艾莫利大學的神經學家格雷格·伯恩斯一項關於掃描大腦的實驗證明,當個別人與團隊的意見不一致的時候,大腦中處理感情的區域會變得高度活躍。這表明要承認與他人意見不一致的時候,人們的感情會變得非常痛苦,研究人員稱之為“獨立思考之痛”。

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

百度圖片

這樣我們就知道,為什麼有時候團隊成員中即使有人看出了系統的錯誤和隱患,但是很少有人挺身而出說出自己的想法,一是因為大腦會告誡我們這麼做會受到懲罰,二是大腦會讓我們的情感變得痛苦。

要與自己的大腦對抗談何容易,但也不是沒有解決之道。

克里斯和安德拉什在《崩潰》中告訴讀者,可以通過三個行動,鼓勵人們說出自己的異見,為發現系統的漏洞儘可能的增加信息來源。

首先,在團隊中成立培訓組織,或者行業內建立培訓機構。不僅培訓一線的底層員工,更要培訓各級的領導主管。員工要學會如何大膽地說出自己的異見,主管要學會如何善於傾聽,謙遜地接受這些異見。在安全責任的問題上,無論是員工還是主管,都要有更平等的地位,人人都具有安全責任感和使命感

其次,軟化權利。高高在上的人很難有人跟他推心置腹,即使異見者充滿了責任感和使命感,在對這種高高在上的人表達自己真實想法的時候也會存在猶豫。波士頓大學商學院院長肯·弗里曼對這種情況給出的建議是:軟化權利。

想要員工接近自己的主管可以想想,你的辦公室是不是過於華麗,是不是距離員工工作區太遠,你是不是擁有自己獨立的電梯,每次員工彙報工作的時候你都是居高臨下頤指氣使的態度……如果這些答案都是肯定的,那麼你就應該試著弱化你的權利了,否則員工永遠沒有辦法把自己的異見對你說出來。

員工彙報工作的時候讓他坐下來,把辦公室搬到員工工作區,讓大家看到你的工作狀態,和大家乘坐同一部電梯,弱化你在員工心中強勢、只可遠觀的形象。謙虛的態度能讓大家感覺你是個平易近人的人,大家也更願意把自己的真實想法表達出來。

飛機失事、地鐵相撞,那些號稱最安全的系統,往往更容易失靈崩潰

百度圖片

第三,領導人最後說話。上來就說出自己的想法和決定的是權威型領導的作風,他要做的就是讓員工認同他的意見並執行。開放型領導則先聽取員工的建議,最後才說出自己的意見。

上世紀70年代,心理學家馬蒂·費勞爾斯通過一個簡單的實驗得出這樣的結論:想要獲得更多的問題解決辦法,做開放型領導就可以了

其實理解起來很簡單,當領導一來就說我希望怎樣做,哪裡會有員工說出自己的異見,當然是領導說什麼就做什麼了。

“在一個複雜的系統中,任何人都只能有限地瞭解正在發生什麼。如果這個系統同時也是緊密耦合的,懷疑意見就是關鍵,因為犯錯誤的代價實在太高。在危險區內,不同意見不可或缺。”

2019年1-5月,據不完全統計,國內化學品事故發生817起,死亡人數409人。每一例事故都付出了慘痛的代價,但也為行業其他企業提供了無比寶貴的案例資料,希望通過異常現象化學習,相同的問題不再在其他企業發生。

系統的複雜性,無法讓人們一眼就看透它所有的問題,異見者們提供的信息就顯得異常重要和珍貴。克里斯·克利爾菲爾德和安德拉什·蒂爾克斯希望通過《崩潰》中講述的案例和方法,告訴讀者無論在個人的工作生活中,還是管理組織機構中,在面對困難甚至是全球性的挑戰時,都能夠做出正確的決定,避免系統失靈崩潰的局面。

參考資料:

《崩潰》,四川人民出版社。

公眾號:班組安全。


分享到:


相關文章: