從AI到AI安全,到底經歷了哪些變革?

故事發生在1642年。

英國議會派和保皇派之間發生了一系列武裝衝突及政治鬥爭,場面極其慘烈,對英國和整個歐洲都造成了巨大的影響,史稱“清教徒革命”。

咦,好像跑偏了,應該從同年世界上第一臺計算機說起。

AI的誕生

同年,法國數學家和哲學家布萊茲·帕斯卡(Blaise Pascal)發明了全球第一臺機械式計算機,可以直接加減兩個數字,並通過重複的加法或減法來執行乘法和除法,開啟了“早期人工智能”的先河;後世為了紀念他,把第一個結構化編程語言命名為Pascal。

1837年,被稱為“計算機先驅之父”查爾斯·巴貝奇(Charles Babbage)和“第一位計算機程序員”埃達·洛夫萊斯(Ada Lovelace)開發了第一臺可編程的機械計算機。Ada還為其量身定製了計算機程序,雖然結果最後是失敗的,但是他們推動了計算走向智能化。

1943年,美國神經科學家沃倫·麥卡洛克(Walter Pits)發佈了《神經活動中思想內在性的邏輯演算-A Logical Calculus of the Ideas Immanent in Nervous Activity》論文,奠定了早期神經網絡的基礎。

1950年,英國計算機科學家艾倫·麥席森·圖靈(Alan Mathison Turing),撰寫了《計算機器和智能-Computing Machinery and Intelligence》論文,首次提出“機器會思考嗎”論點。後稱,圖靈測試,即測試機器是否表現出與人等價或無法區分的智能。為現代計算機的邏輯工作方式奠定了基礎。

1956年是歷史性的一年,是AI正式誕生的元年。10位AI領域專家和大師共同組織和參與了Dartmouth會議,會議中定義了人工智能的概念“學習或者智能的任何特性都可能被精確地加以描述,使得機器可以對其進行模擬”,至此人工智能時代正式開啟。


從AI到AI安全,到底經歷了哪些變革?

從AI到AI安全,到底經歷了哪些變革?

AI的演進

人工智能也是有流派的,主要分為符號主義,連接主義,行為主義三大流派:

符號主義(Symbolism)是一種基於邏輯推理的智能模擬方法,符號主義學派認為人工智能源於數學邏輯並致力於用計算機的符號操作來模擬人的認知過程,實質就是模擬人的左腦抽象邏輯思維,可以簡化理解這一派主要就是“模擬人的想法”,以知識圖譜,決策樹算法,隨機森林算法等為代表。

連接主義(Connectionism)是一種基於神經網絡及網絡間的連接機制與學習算法的智能模擬方法。連接主義從神經生理學和認知科學的研究成果出發,把人的智能歸結為人腦的高層活動的結果,強調智能活動是由大量簡單的單元通過複雜的相互連接後並行運行的結果,可以簡化理解為“模擬腦的運行結構”,以神經網絡和深度學習為代表。

行為主義(Behaviorism)最早來源於20世紀初的一個心理學流派,把神經系統的工作原理與信息理論、控制理論、邏輯以及計算機聯繫起來,並在80年代誕生了智能控制和智能機器人系統,可以簡單的理解為這一派主要是“模擬人的行為”,以強化學習,遺傳算法為代表。

AI的發展史也不是一帆風順,經歷了兩起兩落,才進入到如今快速發展的時代。

第一次興起(1956~1974):Dartmouth會議後,人工智能發展快車道。1957年,符號主義派推出了句法結構和LISP語言,對後面的幾乎所有的編程語言影響很深。連接主義派代表之一,俄羅斯數學家推出了馬爾科夫(Markov)決策過程,後來成為強化學習的數學基礎;代表之二,Frank Rosenblatt推出感知器,可以理解為不含隱層的早期神經網絡,在這一時間段內人工智能從算法到編程語言上有著較大進展。

第一次衰落(1974~1980):1969年符號主義派代表——馬文·閔斯基,出版了著作《感知器》,書中直言連接主義提出的感知器,連最基礎的異或運算都做不到,導致這個問題的主要原因是當時的算力較低,無法解決複雜運算、常識和推理等,連接主義派因此也停滯了10年,“符號主義派勝利不久後”,AI進入了第一次寒冬。

第二次興起(1980~1987):80年代,專家系統的出現帶來了AI的第二個黃金時代,它是一套計算機軟件,能夠依據一組從專門知識中推演出的邏輯規則在某一特定領域回答或解決問題;1982年,連接主義派約翰·霍普菲爾德發現具備學習能力的神經網絡算法——聯想神經網絡。

第二次衰落(1987~1993):在這一時期,IBM和蘋果推出的通用計算PC性價比越來越好,專家系統的市場需求斷崖式下跌,同時在算法上,卷積神經網絡的誕生,需要計算多層神經元,算法複雜度極高,AI硬件算力瓶頸卻始終無法突破,“符號主義落敗”,AI第二次進入寒冬。

1995年,支持向量機的出現霸佔了整個機器學習的世界,它消耗的計算資源更少,算法更簡單,被大家廣泛使用;2006年“深度學習之父”辛頓提出受限玻爾茲曼機模型與深度信念網絡 ,成功地訓練多層神經網絡,並把多層類神經網絡稱作“深度學習”,首次證明了大規模深度神經網絡學習的可能性,當然也是受到了AI硬件發展的紅利,讓AI重新進入了快速綜合發展階段。

綜上所述,每一代AI的發展歷史必然由兩個關鍵要素所影響——算法和算力。

至於算力, 2008年,Nvida推出Tegra系列芯片,作為最早的可用於人工智能領域的GPU,如今已成為Nvida最重要的AI芯片之一,主要用於智能駕駛領域。2010年,IBM首次發佈類腦芯片,原型模擬大腦結構,具有認知、感知能力和大規模並行計算能力。此後FGPA支持DNN,Google TPU(AlphaGo),華為麒麟970等硬件AI技術在各個領域被廣泛應用。

插播一條廣告:“近日,美國萊斯大學的計算機科學家們公佈了新的研究成果,其提出的深度學習框架,在大型工業級的推薦數據集上驗證了在沒有類似於 GPU 的專業硬件加速條件下,也可以對深度學習進行加速”。

從AI到AI安全,到底經歷了哪些變革?

AI在安全領域的應用

Gartner在2020年10大戰略技術趨勢報告中,明確指出AI Security將是未來重要的戰略技術趨勢之一,在接下來的5年中,人工智能(特別是機器學習和深度學習)將廣泛應用到增強人類的決策能力的產品和系統中。

從AI到AI安全,到底經歷了哪些變革?

在物聯網,雲計算,智能系統愈發普及的今天,潛在的可攻擊點大大增加,給安全運維團隊和風險決策者帶來了新的挑戰,Gartner給出了三點安全防護建議:

  1. 需要加大對AI的生產系統的防護,包括訓練數據,訓練流程和生成的機器學習模型,防止如對抗樣本,數據投毒和模型竊取等惡意攻擊行為;
  2. 利用AI增強安全防護能力,使用機器學習來理解攻擊模型和樣本家族,對其進行綜合分析和判定,並通過自動化的方式進行處置,提升安全分析人員的工作效率和威脅響應速度;
  3. AI也會被攻擊者使用,通過AI來改善攻擊方案,新漏洞發現,新有效載荷的設計和規避,並可以監控用戶行為進行自動化的攻擊或誘騙動作等。
從AI到AI安全,到底經歷了哪些變革?

可謂道高一尺魔高一丈,技術是沒有好壞之分,就看被誰來所用,為何而用?

安全廠家引入AI技術主要希望解決傳統防禦方案解決不了的新威脅,提高原有檢測方案的檢測精度,更高效自動化數據分類,更快的威脅響應處置;如下圖是AI安全加持後的防禦能力轉變,當然除了機器學習算法演進作為主要因素外,還依賴於海量數據輸入和情報交換共享,提供了更多的新增輸入數據和黑白分析樣本,將機器學習能力最大化發揮。

從AI到AI安全,到底經歷了哪些變革?

AI技術已經被應用於安全領域的很多產品上,如態勢感知,網絡安全設備和終端安全等,並在情報生產,智能運維等多方面發力。如下簡單介紹這幾個產品被AI加持後的變化,後面還會有多期文章和大家討論AI安全不同領域的發展。

  1. 態勢感知目前主要是基於大數據分析架構,結合多種機器學習算法,深度神經網絡算法,關聯分析和知識圖譜等多種AI技術結合,以海量的流量,設備和終端日誌等數據收集作為輸入,協助安維人員實時監控全網威脅,比原有的SIEM系統在安全運維效率上有質的飛越;
  2. 網絡安全設備當前要是基於規則引擎,黑白名單和安全策略進行威脅防禦。受設備資源約束,規則引擎的簽名數量始終有上限,無法覆蓋所有的主流CVE,必然存在檢測漏洞。AI加持後,會把原有需要大量簽名覆蓋的,如:DGA,C&C惡意攻擊等,通過內置AI防禦模型實時檢測,既不需要海量內存資源存簽名,又可以更快速更準確的發現威脅;同時設備內可以針對檢出的威脅做關聯分析,深度挖掘異常信息的關聯性,減少威脅告警,從而減少處置動作的頻繁操作。

“AI+安全”勢必在這幾年內會持續發酵放大,更多的應用到不同類型的安全防護產品和服務應用中。

總結

人工智能從19世紀的機械計算機開始,算法、算力交替演進攀升,推動了AI時代的興衰繁衍。符號主義,連接主義雖然學派互鬥,但因此也帶動了整個人工智能算法的持續向前發展;到了21世紀,AI芯片、海量數據,更是為AI智能時代帶來了前所未有的春天。

無論應用到哪個領域,算法,算力,數據都是人工智能的三大關鍵因素。AI在安全領域上的應用上已經以不同類型產品和服務的形式呈現,但請大家一定要記住,當你看到AI帶來的好處的同時,AI另一面的他(黑客)也在凝望著你,所以做好AI生產系統的防護,加強AI加持的新安全防護能力是專業安全廠家需要不斷去投入的方向。


分享到:


相關文章: