【獵雲網（微信號：）】2月21日報道（編譯：圈圈）
編者注：本文整理自外媒對McAfee首席技術官Steve Grobman的採訪。
人工智能幾乎正在席捲每個行業，在提供更好的網絡安全軟件方面，人工智能的確幫了很大的忙。網絡安全公司McAfee是該行業中的佼佼者，該公司正在將AI功能添加到自己的工具套件中，以保護用戶免受日益發展的自動化攻擊。
過去幾年中，一大批新興公司（例如以色列的Deep Instinct）都獲得了資金，以將最新的AI技術集成到企業和消費者的安全解決方案中。但McAfee首席技術官Steve Grobman說，對於那些使用AI來阻止網絡攻擊的保護者來說，目前還沒有一個真正的強者技術。
Grobman談到了AI在網絡安全方面的優缺點，他指出在發現最新攻擊方面，人為參與仍然是不可或缺的，AI還無法獨立完成。
AI本身的雙向性是將其用於改善網絡安全存在的一個問題，這就好像是貓和老鼠的遊戲。如果安全研究人員使用AI來捕獲黑客或防止網絡攻擊，則攻擊者也可以使用AI隱藏或發動更有效的自動攻擊。
Grobman特別關注使用改進的計算能力和AI來進行深度偽造，這種偽造技術甚至可以偽造出人們“真的”說過或做過某件事。以下就是外媒對Grobman就AI在網絡安全領域進行使用的採訪：
Q：我與人工智能公司Nvidia的工作人員通話，詢問他們對AI的跟蹤情況。他們說，現在有1.2-1.5萬個AI初創公司。可不幸的是，他們卻沒有專注於安全問題的AI初創公司的名單。可這似乎是一個非常吸引創業者的領域。我想知道，從你的角度來看，我們怎麼能區分致力於網絡安全的AI初創公司呢？因為其中不乏有很多公司是為了獲得投資而進行炒作。
Grobman：使用複雜AI技術的准入門檻已經降低，這意味著幾乎所有處理數據的網絡安全公司都將考慮並可能以一種或另一種形式使用AI技術。我認為AI之所以會如此受追捧，是因為圍繞它的炒作太多了，尤其是那些初創公司或成立不久的公司，它們沒有其他基礎技術也沒什麼名氣，就想著借AI搏一搏眼球。要想在2019年和2020年成立這樣的公司並不難，因為我們正在將複雜的AI功能用於網絡安全防禦。
如果以McAfee為例，我們在整個產品線中都使用了AI。我們將其用於後端分類，將其用於檢測端點上的未知惡意活動和未知惡意軟件。我們將所謂的人機團隊和安全操作員與AI結合使用，以進行調查並瞭解威脅。我們必須準備好讓所有人都可以使用AI，這其中自然也包括我們的對手。
Q：我們經常提到攻擊者和防禦者之間的貓鼠遊戲，你也參與了這場競賽：能否說一下攻擊者對這項技術的使用呢？
Grobman：我們基本可以推測出哪些類型的攻擊是通過AI的引導，可要想準確地做出判斷還是有一定難度。我們看的是事件產生的結果，而不是事件的組合方式。例如，對手會使用AI來優化他們關注的對象，也就是受害者。如果你認為AI可以很好地解決分類問題，讓一個有不良行為的人來識別最脆弱的受害者或者能帶來最高投資回報的受害者，這就是他們如何使用AI來發動攻擊。
對我們來說，不一定能瞭解到他們是如何選擇受害者就是一個難題。我們只能看到哪些受害者成為了目標。我們可以推測，他們之所以能做出這樣明智地選擇是利用AI進行了某些分析，但是很難明確斷定這一點。
AI正出現在另一個領域：內容的創造。在安全性方面，我們擔心的一件事是使用AI來自動執行自定義的網絡釣魚郵件，因為有了AI的協助，你基本上可以大規模部署魚叉式網絡釣魚。你有一個自定義便箋，受害者很可能會因此上當，這個便籤就是使用AI製作的。同樣地，我們很難查看網絡釣魚郵件並知道它們是否是人為確定生成的，或者是在基於AI算法的幫助下生成的。很多研究領域都在發生這樣的事情，有大量自動生成的文本和音頻。從信息戰的角度來看，深度偽造是我們非常感興趣的東西。
Q：這與面部識別安全有關，對嗎？
Grobman：的確存在一些與面部識別有關的元素。例如，我們已經進行了一些研究，以供查看。你能製作出一張與某個真人仿真度極高的圖像，並且圖像上的信息與面部識別系統裡這個人的預留信息差別不大，從而來糊弄這個系統讓它以為這就是自己一直尋找的人嗎？我認為，這是信息戰的一個方面；但除此之外，還要能做到說服人們某些事情已經發生了，也就是把實際沒有發生的事情描繪地跟真實說過或做過的一樣。越是臨近2020年的選舉週期，我們越是認識到以信息戰為目的的偽造品是我們需要重點關注的事情。
Q：是Facebook或Twitter上的東西嗎？還是McAfee有理由注意這種欺詐行為？
Grobman：McAfee之所以這麼認為的原因有很多。第一，我們試圖瞭解檢測技術的最新發展，以便有類似視頻出現後，我們能夠提供最佳評估，以評估該視頻是否是經過深度偽造過程而被篡改的，或存在其他問題。除社交媒體之外，其他類型的組織也可能具有取證能力，比如新聞媒體。如果有人給你一個視頻，你就希望自己有能力辨別這個視頻的真偽。
其實這種情況經常發生在我們身邊，比如虛假賬戶。有人會創建一個名為“AP Newsx”的帳戶，或者他們會稍微修改Twitter句柄並從正確的帳戶中竊取圖像。乍一看，大多數人都會以為是AP發佈的視頻。一個組織的信譽會影響內容的可信程度，這就是為什麼信譽良好的組織需要工具和技術來幫助他們確定一些應該相信的基本事實，而不是應該更加懷疑什麼東西。
Q：好像你已經準備好看到某種違規行為是使用了深度偽造一樣，因為我們已經習慣了虛擬人的想法。
Grobman：這一點非常有趣。同樣的技術可以用於不同的目的，有好也有壞。如果你可以使虛擬人的外表和聲音跟真人十分相似，則可以考慮將其很好地利用起來。如果你能讓處於帕金森晚期或是有其他語言障礙的人能跟身邊的親人交流，那顯然是在積極使用這項技術。
而消極使用這一技術，就比如一位首席執行官似乎在聲明要召回其產品，或者虛假提供公司的收益信息並以此來推動公司股價上漲。其實這是為各種金融犯罪開闢了道路，犯罪分子可以不必通過竊取信息來操縱市場，而是通過AI技術直接採用這些虛假信息。
Q：你已經識別出一種稱為“模型黑客”的東西，它是對機器學習系統本身的攻擊嗎？
Grobman：我們在對抗性AI技術和防禦方面做了大量的工作。我們正準備讓犯罪分子使用能使AI模型失效的技術。我們正在做的一些研究是為了能最佳地瞭解這些對抗性技術的工作原理，然後我們還需致力於緩解措施，以使我們的模型更健壯，更不容易受到其中某些功能的影響。這是一個非常活躍的重點領域。
Q：就你瞭解的而言，這樣的活動目前開展情況如何？
Grobman：這項活動開展比較廣泛，尤其是在學術界和研究界。與其他一些觀點類似，很難知道目前有多少人在集中精力使用這些對抗性技術。大多時候，都是先開始於某些研究領域；然後逐步發展為主動開發，這就是為什麼McAfee和業內其他負責任的公司必須做到這一點，並確保在攻擊日益普遍時，我們的技術已經準備好開始反擊了。
Q：如果這些攻擊成功了，你能找出存在哪些危險嗎？他們攻擊的數據會作何處理？
Grobman：主要是要規避AI的意圖。就拿一個典型的網絡安全用例來說，AI模型會分析一個以前從未見過的文件，以將其分類為惡意或良性。使用對抗性AI技術會將一些特定特徵放入文件中，從而使模型混淆，即使模型是惡意的，也會將其錯誤地分類為良性。
Q：我跟蹤了這個領域中一些初創公司的創立，例如2017年的Deep Instinct。他們從英偉達獲得了一些獎項，並獲得了投資。他們說的一些話很有道理。我想知道他們的方法在整個行業中到底有多廣泛。我知道有很多公司都在籌集資金，承諾如果將AI投入網絡安全，能從投資者那裡獲得一些更好的東西。因為傳統的安全保護具有被動性，是你發現哪裡存在問題，然後將其放入數據庫中並加以保護。而AI技術則是用來超越它並預測你從未見過的威脅。
Grobman：我們發現，最好的效果是將AI與一些傳統的威脅研究和威脅情報功能相結合。如果將威脅情報和AI相結合，則比單獨做任意一個要好很多。
因為它們各自都存在一些根本問題。如果你只是進行威脅情報處理，這意味著你將基於對世界上存在的威脅的瞭解來尋找威脅，而問題就在於新的威脅會隨時出現。McAfee每分鐘都會發現500種新的惡意軟件。要想領先於所有新威脅一直都是個難題，如果僅基於威脅情報進行檢測，則充其量只能檢測到大約90%的威脅。
另一方面，如果你僅使用AI，則基本上是讓AI模型在你知道答案的那90%的場景中做出決定。如果你仔細想一下，你會覺得威脅情報還是幾乎能讓你得到完美的檢測率。如果你知道有什麼不好的地方，那麼你就是真的知道這很不好。那如果這樣，單獨使用AI的目的又在哪裡呢？你為什麼要讓你的模型對一些明知不好的東西進行評估呢？
當然，使用AI的好處在它可以檢測到你從未見過的東西。但是，為了獲得較高的檢測率，通常需要較高的假陽性率。要想得到更高的檢測率，你往往會得到很多錯誤的檢測結果。而McAfee發現，比起單獨使用任何一種技術而言，將威脅情報和AI結合在一起，你可以獲得更高的檢測率和更低的誤報率。
原因如下：從威脅情報的角度出發對內容進行分類，然後僅將未知的內容傳遞給AI分類器，這將使你處於同時用這兩種技術模式工作的狀態，讓它們一起為你提供更好的結果。
Q：現在有多少公司有能力將二者結合呢？有多少公司能在AI這個板塊有所突破呢？我相信你們能做到。
Grobman：我們在這方面做的很好。其實你不僅僅需要擁有出色的AI技術，還需要掌握世界上正在發生的事情的良好數據並具有良好可見性。McAfee擁有十億個威脅傳感器，它們從各種各樣的角度出發，著眼於威脅遙測。我們使用CASB（雲訪問安全代理）解決方案，從設備、網絡、組織範圍甚至雲計算方面遙測威脅。除了瞭解如何有效使用AI以外，知道使用該威脅感知和威脅遙測信息來幫助建立模型也是你需要了解的事情。
Q：就你所知道的而言，當深度學習開始成為現實時，你們何時開始接觸這一領域呢？
Grobman：我們使用了多種AI技術。其中一些是工程學習，其中一些是深度學習。但是，我們關注這一技術已經五年了，當時它還並不是特別受關注的領域。該技術已經發展了許多年，我們始終將其視為實現目標的一種工具，而AI本身實則並不等同於目標。我們關心的是它對我們有什麼作用。我們的客戶關心我們防禦威脅的能力。我們發現AI是一項強大的技術，可幫助我們更有效地做到這一點。但總的來說，只要能達到預期的效果，客戶就不會真正在乎我們的做法。
Q：你是否覺得需要招聘大量與AI相關的人員才能實現這一目標呢？而不是隻擁有傳統的工程師。
Grobman：是的，兩者兼而有之。我們已經僱用了很多數據科學家。我們有專門的數據科學團隊。同時，我們在整個公司範圍內進行了許多交叉培訓，以使不是數據科學家的工程師也能瞭解該技術，並能夠有效地使用該技術。
Q：要想完全實現AI網絡安全集成，還需要多久？
Grobman：AI網絡安全這一現象在行業中已經很普遍了。但接下來會發生的事情是，威脅形勢將繼續發展並變得更加複雜，這將繼續要求我們複雜化已有的威脅檢測方式。我們不需要看到終點，因為隨著威脅形勢的不斷變化和發展，好的技術也會隨之出現。
Q：在網絡安全的未來方面，相比其他的一些發展，你覺得AI技術的發展如何？
Grobman：該技術將以其他的一些新方式投入使用。這樣來看：我們關注的一部分是如何解決現有的問題；另一部分是我們怎樣採用全新的方法來使用全新技術來防禦威脅。人工智能可以在這兩個方面為我們提供幫助。
例如，在第一個示例中，我們可以使用AI的改進來更好地檢測惡意行為和惡意內容。同時，我們也可以使用AI回答以前從未能夠回答的問題，例如：攻擊是否旨在針對特定組織？它是有針對性的攻擊嗎？在有人意識到這是一個組織之前，我們可以考慮使用AI來檢測新組織的形成。現在，我們可以用AI來回答所有的這些問題。
Q：我想知道區塊鏈是否非常重要。人們指出它是一種可以確保身份的技術。如果你引入區塊鏈，那麼你就可以更加確定你想要驗證的東西。但是，我看到的另一個與此有關的問題，即勒索軟件的蔓延，勒索支付已經變得越來越難以追蹤。而使用區塊鏈也是好壞並存。
Grobman：完全正確。區塊鏈非常適合加密貨幣。那你覺得加密貨幣是好還是壞呢？實際上兩者都有。他們這樣做是為了使沒有能力與傳統金融機構和工具合作的個人（例如在第三世界國家/地區）能夠與貨幣合作。另一方面，這也是使勒索軟件能更加有效運行的催化劑。它為犯罪分子提供了一種手段，使他們的受害者可以用難以追蹤的貨幣直接向他們付款。
Q：社交遊戲巨頭Zynga的Words With Friends數據庫遭到黑客入侵，約2億人的個人紀錄遭到侵犯，而且還只是在最後一個季度。你怎麼看待這個事情。
Grobman：針對消費者的一些說明性指南表示，如果你要註冊任何賬戶，最重要的是擁有一個獨一無二的密碼。Zynga就是一個很好的例子，如果你使用的賬戶信息僅限於登陸Zynga，那就沒什麼十分有價值的信息可以從Zynga竊取；但如果有人使用與他們銀行賬戶相同的賬號和密碼登錄，那麼入侵者就可以通過獲取的這些信息訪問有價值的東西。所以，如果用戶正在訪問休閒類型的網站，請使用密碼管理器或使用唯一的密碼來確保自己信息的安全，哪怕發生信息洩漏這樣的事件，被盜信息也只是某一網站的註冊信息。
Q：最近該領域還有什麼事情引起了你的注意嗎？
Grobman：還是有幾件事值得一提。2019年，勒索軟件的問題依然存在並且是安全領域的一個重大問題。一款名為“Sodinokibi”的勒索病毒作祟，它使用的是會員業務模式。你仔細想想，在商業領域中，有各種各樣的特許經營業務模式，大多公司都擁有銷售或執行其服務的合作伙伴或分支機構，並且存在利潤分享。藉助Sodinokibi，一個小組創建了底層勒索軟件技術，然後將其提供給不同的組織，以影響個人和組織。一旦贖金支付後，相關聯的組織就有了利潤分享。許多勒索軟件都是針對州和地方政府。
此外，我們還將2019年視為開始通過雲對金融機構進行攻擊的一年。去年夏季，發生了一次重大洩漏事故，這是由於雲的滲透導致的。
閱讀更多 獵雲網 的文章
