Akamai支招:如何區分並管理網絡爬蟲的“惡”與“善”

2020-04-24 14:26

環球網

【環球網科技報道 記者 林迪】互聯網充斥著來自搜索引擎、虛擬助理和聊天機器人等來源的自動化流量。但是,在高效的自動化流量的對立面是惡意爬蟲程序——惡意攻擊者使用這些軟件程序來自動發起攻擊。

Forrester最新發布的報告指出,“為了應對這些最為複雜的爬蟲程序,安全專業人員需要爬蟲程序管理工具來對檢測方法進行分層(比如針對用戶行為的統計分析)、收集生物統計信息以檢測異常以及不斷更新信譽評分。”

對此,環球網科技記者就“爬蟲的識別和管理”採訪了Akamai中國區企業事業部總經理何銘(Jerry He)和Akamai大中華區產品市場經理劉炅(John Liu)。

“管理”善意爬蟲和惡意爬蟲

Akamai大中華區產品市場經理劉炅指出,互聯網流量中有40%的流量是bot(機器爬蟲或自動化軟件)產生的,其中包括惡意爬蟲和善意爬蟲,前者是通過遠程自動化的方式,經過互聯網對目標的站點和網站進行攻擊,以達到一些商業化的欺詐目的;後者指的是利用類似搜索引擎的軟件做一些增加搜索流量的工作。

圖:Akamai大中華區產品市場經理 劉炅

圖:Akamai大中華區產品市場經理 劉炅

惡意爬蟲的影響不能小覷,以遊戲和電商行業為例,如果一些賬號經常被惡意盜用或複製,用戶的抱怨和投訴便會增多,最終會對企業造成經濟上損失。Ponemon Institute的調查顯示,由爬蟲引起的“撞庫”攻擊每年會給企業帶來高達270萬美元的損失,因此,對於企業而言,善意爬蟲和惡意爬蟲的區分就顯得格外重要。劉炅對記者表示,善意爬蟲其實有跡可循,“針對搜索引擎發出的爬蟲,我們可以定位它們的指紋腳本特徵。另外,作為全球最大的智能邊緣平臺,Akamai本身已具備威脅情報及數據,可以據此判別爬蟲來源是有效IP還是惡意IP。惡意爬蟲也有自己的特徵,比如較高的爬取頻率和在單位時間內的較高抓取次數。”

在劉炅看來,爬蟲的攻擊演進大概分為四個階段,“從簡單的IP、瀏覽器到模仿人的行為,爬蟲現在已發展到第四個階段,呈現分佈式的攻擊特點——即利用更多的殭屍網絡發起攻擊,伴隨更多的擬人行為。”對此,Akamai開發出Bot Manager(爬蟲管理器)解決方案,用於幫助企業管理和甄別爬蟲流量。

就在三月,Akamai對Bot Manager進行了升級,此舉更注重攻防能力的提升。具體而言,首先,新的產品更新提供了更多和更精準的爬蟲檢測方法。例如,POW(Proof of Work)挑戰檢測方法可以在防護設備或防護端對網頁的請求端發出挑戰,通過檢測請求端的回應,可以精準地檢測“幕後操作手”是爬蟲還是真人。第二個特色是基於人工智能的評分機制,新的Bot Manager可以利用Akamai的雲端數據和威脅情報對爬蟲流量進行自動評分,並根據這些分值進行更細粒度的防護。第三,新的Bot Manager增加了很多場景的支持,尤其是對於跨域的場景支持。最後,新的Bot Manager可以和Akamai的mPulse產品(主要對於真實用戶的檢測)進行集成,進而對爬蟲對網站性能產生的影響進行可視化展現。

重災區行業及應對之策

Akamai中國區企業事業部總經理何銘告訴記者:“準確來講,爬蟲會影響所有的行業,只要跟互聯網相關的企業都會受到影響。”從行業分佈影響角度來看,金融行業是第一重災區,因為金融行業的每一位客戶對攻擊者而言都是高價值資產。其次,由於電商幾乎覆蓋了人們日常生活的方方面面,所以電商行業受到的爬蟲攻擊亦很頻繁,而攻擊則有可能導致整個電商網站的交易失敗,更可怕的是當電商跟支付系統捆綁在一起,網絡欺詐也會發生。再次,媒體行業也是爬蟲攻擊的主要目標,特別是爬蟲偽造信息從而影響輿論,會對社會造成很重大的影響。最後,網絡遊戲裡的每一個帳號或多或少都會存在虛擬裝備,一旦遊戲被爬蟲攻擊,玩家的虛擬資產便有可能被盜取,而這也直接影響遊戲平臺的信譽。

圖:Akamai中國區企業事業部總經理 何銘

圖:Akamai中國區企業事業部總經理 何銘

“所以,只要與互聯網相關的企業就一定要有爬蟲防範意識,要隨時隨地去甄別這些爬蟲,並及時攔截惡意爬蟲流量。”對此何銘給出了自己的具體建議,“雖然很多企業都設有首席安全官職位,但爬蟲管理需要企業的綜合考量,而不是僅依靠某一個特定部門或職位。另外,管理爬蟲要考慮一些深層次的影響,因為爬蟲的攻擊方式一直在變,企業需要一個很有經驗的廠商來幫助制訂應對策略。”

全球在家辦公後 遭遇網絡攻擊的可能性增大

值得關注的是,隨著全球範圍內居家辦公成為一種主流方式,辦公地點的變化對於網絡攻擊和防護而言也產生了新的問題。

對此,何銘表示,“從網絡環境的安全性來講,企業辦公場所通常比居家好。因此,員工居家辦公對於那些平日就躲在暗處的攻擊者,意味著更容易找到安全漏洞。另一方面,遠程辦公讓企業對於突發事件的反應和處理不如以往及時,因此攻擊者就更容易採取更惡劣的手段。所以,在當前情況下,企業更要加強安全防護。”

“原來企業的辦公環境可能是一個內網,而現在辦公室就是互聯網,這是一個最大的變化。隨著工作地點的分散,企業的業務系統便暴露在互聯網之上。這樣就會衍生出更多基於惡意爬蟲的攻擊方法,企業需要讓安全管理人員乃至所有員工重視自身的網絡安全。”劉炅進一步補充道,“就Akamai來講,我們會針對各個企業安排相對應的服務團隊進行7×24小時的值守,同時應用各種先進技術全方位保護企業免遭攻擊。”

閱讀全文


分享到:


相關文章: