4 月 7 日，來自清華的 RealAI（瑞萊智慧）發佈了 RealSafe 人工智能安全平臺，隨之推出的測試結果令人驚訝：通過平臺對微軟、亞馬遜雲服務的人臉比對演示平臺進行測試顯示，基於 RealSafe 平臺生成的對抗樣本「噪音」能夠極大干擾兩大主流人臉比對平臺的識別結果。
檢測出人臉識別系統「漏洞」的 RealSafe 人工智能安全平臺，是全球首個針對算法模型本身進行安全的檢測平臺，內置領先的攻防算法模型，旨在為企業用戶提供從算法測評到防禦升級的整體解決方案。
看來破解 AI 形成的隱患離我們並不遠，為避免可能的損失，我們要更加註意對個人信息的保護。例如在一些刷臉支付場景中，在通過人臉驗證是否為本人後，進一步需求輸入手機號等信息進行二次驗證。在深度學習模型普遍脆弱、容易被攻擊成功的當下，普通消費者不能只依賴人工智能技術，還需要保持足夠的警惕，保護個人信息，不然仍有可能出現身份被盜取等問題。
目前以「對抗樣本」為代表的算法安全仍是新興領域，業界對於如何評價算法模型的安全性並沒有清楚的定義，並且對抗樣本等攻擊手段變得愈發複雜。在開源社區、工具包的加持下，高級複雜攻擊方法快速增長，相關防禦手段的升級卻難以跟上。另一方面，對抗樣本等算法漏洞檢測存在較高的技術壁壘，目前市面上缺乏自動化檢測工具，而大部分企業與組織不具備該領域的專業技能來妥善應對日益增長的惡意攻擊。在潛在層面上，隨著人工智能的大規模應用，算法安全漏洞帶來的安全威脅將持續升級。目前 安全平臺RealSafe 還支持另外兩大功能模塊：模型安全測評和防禦解決方案。
RealAI 表示，此次推出的安全平臺只是研發人員們的一小步嘗試，這家公司希望能通過安全可控 AI 賦能行業，向金融領域提供更可靠的大數據風控、反欺詐、營銷等解決方案，在工業領域提供生產運維智能決策和智能裝備解決方案，在公共安全治理領域提供公共數據安全、網絡內容安全等解決方案。（消息來源：機器之心）
閱讀更多 智能相對論 的文章
