神譯局是36氪旗下編譯團隊，關注科技、商業、職場、生活等領域，重點介紹國外的新技術、新觀點、新風向。
編者按：隨著人工智能的崛起，越來越多人寄希望於AI可以成為網絡安全的“守夜人”。那麼真相是怎樣的呢？作者在文中指出了人類的位置：狼人-平民-守衛，也探討了AI可以起到的作用。這個時代，網絡安全與每個人都息息相關，我們又該如何正確認識網絡安全這一遠在天邊近在眼前的命題呢？本文譯自VentureBeat，文章作者Seth Colaner，原文標題The persistent humanity in AI and cybersecurity.
即使人工智能技術在某種程度上改變了網絡安全世界，但該領域的關鍵仍然在於人類。儘管這聽起來有點不可思議，但人類在網絡安全的三個層次都發揮著至關重要的作用：試圖造成傷害的攻擊者，受到傷害的目標群體以及解決問題的防禦者。
網絡安全的真相：真正的操作者是人類
在沒有AI強勢登場的時代，網絡安全問題對於普通用戶也通常是戴著神秘面紗的。如果再加上高端科技人工智能的出現，對大多數人而言，網絡安全依然是難以理解且遙不可及的。
這是因為雖然網絡安全與人息息相關，但攻擊人類的並不是網絡本身。
真正的操作者是人類。攻擊者在某個位置的計算機上對另一位置的人發起攻擊，這些攻擊在另一臺計算機上應被防禦系統成功阻止，此所謂理想的攻擊-防禦過程，這闡釋了人類在網絡安全問題上所扮演的角色，攻擊者、受害者和防禦者。由此可以看出，即使人工智能時代全面到來，“人”不改變，便無法解決網絡安全問題。
不可替代的人類
從某種意義上說，人工智能對網絡安全領域的影響與它對其他學科的影響沒有什麼不同，因為人們常常嚴重高估了人工智能究竟可以做什麼。他們不瞭解，比起更廣泛的命題，例如提出危險解決方案，當AI操作更具體的事情，例如異常問題檢測時，AI方能大顯身手。
與人類不同，人工智能缺乏智慧。它沒有創造性，也做不到有智有謀。它通常無法結合當前的環境和過往的記憶，像人腦那樣對事件產生綜合的理解。在接受VentureBeat採訪時，LogicHub首席執行官兼聯合創始人Kumar Saurabh解釋了行業對人類分析師的需求，分析師需要藉助工具來進行威脅檢測。“幾年前，我們做了一個實驗，實驗中設置了一定數量的數據以供篩選，對於AI來說這點數量輕而易舉，但對於人工分析者來說卻是相當龐大的數據量”。研究者想要以此來了解，使用自動化系統的人工團隊在威脅檢測中能夠發揮何種作用。
“到目前為止，我已經把這些數據提供給了大約40個團隊。沒有一個團隊能夠以自動化的方式篩選出潛在威脅。如果我們把它交給更為有經驗的分析師呢？”根據Saurabh的說法，情況稍有改善，在一到三個小時內，有25％的安全專家能夠將其破解。此外，他們還可以向Saurabh解釋他們是如何成功破解的。不過，問題來了。該實驗僅涉及相對較少的數據，熟練的分析人員仍需要花費數小時才能找出威脅因素。Saurabh感嘆道：“以這種速度，我們至少需要5,000名安全分析師同時工作才能應對真實的數據量。因為在現實生活中，每天產生的數據是數十億計甚至更多的”。
“顯然，這是不切實際的。” Saurabh通過這組實驗肯定了AI的必要性。“這就是AI威脅檢測的重要之處。我們需要使用機器，並使它們像擁有10年，15年經驗的安全分析師一樣地聰明才行”。儘管整個行業已經朝著這個目標邁進了一些，但這個問題尚未得到很好的解決，未來數十年也不一定可以解決。
目前，AI在網絡安全方面可以做的仍然非常有限。我們目前的AI離達到熟練的安全專業人員所能做的還有一定距離。Saurabh說：“所有人都有基本的思考能力。我們可以教AI駕駛車輛， 但它卻不會在人睏倦的時候自動煮好咖啡。”
波爾圖大學教授Ricardo Morla博士對VentureBeat表示，想要了解人與機器是如何協作的，就要了解“認知資源”。認知資源是指人類在不同狀況下，根據自身認知能力所產生的相應想法。 “隨著汽車變得越來越智能，人類最終釋放出更多的需求，在天黑時自動打開車燈，在上坡起步時主動控制離合器，在人分神時自動駕駛汽車……”。
但是，他補充說：“我們現在還沒有AI可以智能到“給人放假”，讓安全管理人員、大型殭屍網絡背後的工作人員都回家操作，然後其他所有工作都留給機器”。諸如入侵檢測和漏洞自動掃描之類的任務，可以由AI完成，但依然需要安全專家來監督甚至決定。
相比之下，AI在網絡安全領域也有自己更擅長的地方。 Caleb Fenton是SentinelOne的創新主管，該公司專門研究使用AI和機器學習進行端點檢測。他認為，人工智能已經能夠幫助軟件開發者提高效率，更快地開發工具。現在，程序員可以省去費心編寫複雜的函數和中間好幾個月反覆嘗試的過程，算法可以編寫好函數，他們只需要數據和標籤即可。
人工智能也為威脅檢測提供了便利，無論是靜態的查看文件，還是動態的程序運行。但工具依然只是工具，是好是壞還是取決於使用他的人。
Steve Kommrusch是科羅拉多州立大學的博士研究生，目前專注於機器學習方向，他曾在惠普和超微半導體等公司擔任計算機工程師長達28年。他贊同Fenton的主張， “ AI可以幫助識別有風險的軟件編碼樣式，以此幫助程序員進行大量安全代碼的快速編寫。某些任務，比如最初級的 bug分類或簡單的bug修復，都可能由AI代替人工完成。但是，要確定哪些問題需要解決，設計數據結構以及開發可很好平行化的算法，仍然需要在相當長的時間內依靠人類。
因此，在可預見的未來，我們所關心的問題不在於機器是否會在網絡安全方面取代人類，而在於它們如何有效地協助安全專業人員的工作，增強工作人員的戰鬥力。 增強與替換的概念滲透在AI所涉及的許多行業，但值得注意的是，在複雜的網絡安全領域，AI的增強作用明顯更佔上風。
Saurabh認為這是勞動專業化的一種體現，人們會花費更多的時間做唯有人類能做的事情。工欲善其事，必先利其器。對於相應的問題，必須選擇正確的工具。錘子之於釘子，螺絲刀之於螺絲。 然而AI不同，它可以結合多種不同的技術，對需要解決的問題因地制宜。如果說，以前的工人需要選好正確的工具再上場，那以後的AI就是一個完備的工具箱。
人類仍然是最薄弱的一環
具有諷刺意味的是，即使人類在網絡安全鬥爭中發揮著關鍵作用，但他們依然可能成為網絡安全的軟肋。多麼隱蔽的威脅，多麼高的防火牆，多少重加密都不是最緊要的，闖入的最簡單方法是讓掌握鑰匙的人來為你開門。
鑰匙依然掌握在人的手裡，用戶可能被欺騙、被操縱，有時是無意識的犯錯或是在判斷失誤的情況下掉入陷阱。當我們無意中打開了一個惡意文件，或者一時疏忽將我們的敏感登錄信息、財務信息暴露給了罪犯，那麼為時已晚，網絡安全維護者的任務將變得極為困難甚至可以說，無法挽回。人類將持續成為主要的攻擊目標，Morla表示，我們依然控制著生活中絕大多數的關鍵信息，包括銀行帳戶，有價值的商業信息和資源豐富的系統。
不過，好消息還是有的。 Fenton對人類是最薄弱的一環這一說法表示贊同，且強調一直以來都是如此。但是他提到，網絡安全行業也在迅速發展以保護我們免受侵襲。“情況會慢慢得到改善。即使用戶做錯了某些事情或者他們運行了惡意軟件，我們可以及時查封並把它處理掉”。
Morla介紹到，“我們可能會看到攻擊者利用文本、語音和類似智能呼叫中心的AI工具來實現與人類的惡意互動”。值得注意的是，Kommrusch提出了類似的情況。 “可悲的是，AI聊天機器人和電話機器人已經在升級且進展迅速。詐騙者用一個設定的AI聊天機器人來接觸目標人群，可能僅需20秒到30秒，在受害者上鉤之後，電話便會被移交給背後真實的操縱人。也就是說，每天持續打擾你的騷擾電話，AI的身影也閃爍其中。另外，兩位研究人員都指出，這種攻擊必須非常有說服力才能發揮作用，要足夠有欺騙性才能矇蔽受害者的雙眼。 “ 這種情況下，AI需要足夠智能足夠靈敏，不僅要偽裝成人類且不被發覺，還要贏得當事人的信任以獲取其個人信息，如訪問憑證、銀行密碼等”。
Kommrusch提到，對於一些警惕性高的目標，他們可能會察覺出這種操作中不太“人性化”的地方，但隨著自動化技術的發展，被攻擊的目標基數及被攻擊的頻次大大增加。因此，即使AI騙局的成功率很低，但人類仍然需要保持高度的警惕。
Morla提出，防範此類攻擊的方法之一就是教提高人類的應對能力。當人們能夠自主識別出可疑的電子郵件時，他們打開中毒附件或單擊錯誤鏈接的可能性就大大降低了。除了教育人類提高應變能力，人們還可以藉助工具來維護網絡安全。Kommrusch指出，基於AI的自動化安全質量分級器可以更好地保護用戶，它可以在用戶向手機或筆記本電腦上添加應用程序時自動評估安全風險併發出提示。
在AI出現之前的網絡安全時代，也有一些早期的防禦方法發揮效果。例如對銀行帳戶等敏感數據使用多重驗證，採用U盾類實體安全產品等。McAfee（美國跨國計算機安全軟件公司）則是將 AI添加到了其保護中的應用程序，終端用戶可以下載該應用程序以獲得高質量的AI防禦。
AI對抗AI
雖然人類是最薄弱的一環，但攻擊的目標不僅僅只是人類。 Morla說：“在某些情況下，使用AI實現訪問控制機制，其攻擊的目標也正是AI”。他列舉了一些例子，有些惡意攻擊剛開始以人為目標，之後卻轉為誘導AI將其錯誤分類，當病毒破壞汙染數據集合之後，便能夠阻止AI從中充分學習。“因此，儘管人類可能仍然是最薄弱的一環，但將AI引入網絡安全卻為鏈條增加了另一個薄弱的環節”。
Fenton提到了一些躲過AI識別的小技巧，例如在圖像中更改幾個像素以觸發機器學習模型。對於分析人員來說，改變後的畫面還是能夠大致識別出原有圖形，但對於AI來說，卻完全可能被識別為毫不相干的事物。目前，已經有人將該技術應用於二進制文件，使惡性危險的文件被識別為安全文件從而矇混過關。這種操作也許有效，但實際上還沒有催生出相應的安全威脅，這種攻擊目前還只是理論上的。
那麼究其原因，為什麼網絡安全領域的威脅套路沒有大範圍地“飛躍”呢？因為攻擊者並沒有足夠的動力進行“創新”。 Fenton說：“這聽起來很奇怪，但是我希望我們很快會開始看到一些新的攻擊，因為這恰恰將意味著我們對惡意軟件作者施加的壓力開始顯現了”。換句話說，違法犯罪者缺乏創新，正是表明他們一直以來所做的事情仍然有利可圖且足夠有利。“如果我們擁有了AI的參與，而且我們在檢測惡意軟件方面做得越來越好，但是以往的攻擊模式仍然猖獗，技術水平毫無進展，這意味著他們以前的那一套仍然奏效，我們並沒有真正拔高網絡安全的底線”。儘管如此，專家們也呼籲人們不必過度擔憂，國際上的大型安全公司已經全副武裝，隨時準備接招網絡安全攻擊的下一波“創新”。
最純粹的動機：金錢
Fenton的評論指出了網絡安全常常被忽視的一個方面，攻擊者的動機像所有盜賊一樣：都是錢。“攻擊者通常會想出最低廉，最愚蠢，最無聊的方案來解決問題，因為他們首先考慮的就是成本及收益，他們的目標並不是琢磨出多麼機智的手段和高明的騙術，而只是獲得錢。Fenton強調這才是瞭解網絡安全世界的關鍵，因為它有助於證明網絡安全的邊界其實很有限，攻擊者和防禦者都有很強的目標導向，對於攻擊者來說，金錢是唯一的方向。
他談到：“一直以來，我對攻擊者的實際行為感到非常失望，我曾以為惡意軟件是經過精心設計而成的非常巧妙的陷阱。但很多時候，攻擊者只是稍作改變，就會依然奏效，然後繼續大行其道，這對他們來說是成功的，也是他們真正關心的”。這意味著，只有在其獲利減少成本增高的情況下，他們才有可能啟用高技術AI來加強攻擊。也許是加強現成的攻擊方式，從而導致那些便宜又簡單的工具會被大量使用。Kommrusch警告公眾：“攻擊者也在適應AI技術，他們開始讓新手藉助複雜的AI算法開展攻勢。但即使是這樣，大多數攻擊行為依然平淡無奇，甚至有些低齡，例如在網上群發更逼真的釣魚電郵，帶有惡意鏈接的中獎短信。
人類對抗人類
無論是攻擊者還是受害者，其終端依然是人。沒有一種軟件擁有獨立意識，將自己變成惡意軟件，然後發起攻擊。從他人身上謀利以增加自己的砝碼，這種資本世界的規則在網絡安全領域並無二致。儘管網絡攻擊是在損害或捕獲系統，而不是人本身，但任何目標之所以有利可圖，是因為最終還是需要人付出代價。
最後，即使AI增強了網絡攻擊和網絡防禦的某些方面，但其關鍵一役仍然在於人類。工具和媒介可能會發生變化，但其背後總是會站立著一個狼人（攻擊者），一個平民（目標者）和一個守衛（防禦者），一如往常。
閱讀更多 36氪 的文章
