小學生用照片攻破豐巢人臉識別系統、自動駕駛汽車失控撞人、AI換臉讓你一秒成為黃片主角……隨著人工智能技術的快速發展、普及和應用,隨之而來的安全、倫理等問題也引發普遍擔憂。
“人工智能安全作為人工智能研究和產業化應用的重要組成部分,應推動政府、學術界和產業界進行更加深度和廣泛的合作,對人工智能的安全進行系統佈局。”近日在清華大學舉辦的AI與安全研討會上,清華大學副校長、中科院院士薛其坤說:“這一領域是快速發展的,要在關鍵時刻把握正確的方向,抓住關鍵的技術。
人工智能發展的快速和重要性已經不言而喻。2019年,美國、歐洲、日本等各國均出臺各類促進人工智能發展的政策和國家戰略;公開數據顯示,2019年,中國人工智能相關公司總數超過2500家,到2020年,中國人工智能產業規模將接近500億元。
“各類場景中,安防、醫療應用較為廣泛,最近上海地鐵一個攝像頭抓到了潛逃20年的殺人犯,就是典型應用。”國家工業信息安全發展中心副主任李新社指出,人工智能當前面臨數據、算法、網絡、信息、倫理等多方面的安全問題,“建立可信的人工智能將成為發展的重要考量。”
清華大學人工智能研究院院長、中科院院士張鈸早在1987年就帶領清華成立全國第一個以人工智能命名的國家重點實驗室,見證、參與中國第一代、第二代人工智能技術發展。張鈸強調,必須發展安全、可靠、可信的第三代人工智能,才有可能使人工智能技術得到安全廣泛的應用。“而發展技術的關鍵在於基礎研究,必須在基礎研究上進行重點投入和突破。”
“一張鳥的照片,加一點噪聲,就能讓AI識別為一隻老虎,”張鈸說,人工智能的安全問題源於深度學習技術的底層缺陷,採用非常簡單的神經網絡系統,用概率統計的方法來提取出低層次的特徵,而正確的方法應該是像人類一樣去提取高層次的語義特徵,“我們正在往這個方向努力,但現實情況是,沒有永遠安全的系統,也不要指望有永遠安全的人工智能系統,只有加強基礎研究,才有前瞻性的判斷,及時採取措施。”
中國科學院院士、大數據算法與分析技術國家工程實驗室主任徐宗本強調:人工智能的未來發展,特別是在醫療等關鍵領域的應用技術,需要充分利用數學等工具加強基礎研究,突破精確性瓶頸,打破數據孤島,實現小樣本和可解釋的深度學習。
針對AI與安全的眾多技術領域問題,中國科學技術大學網絡空間安全學院副院長張衛明、上海交通大學網絡空間安全技術研究院副院長伍軍、西安交通大學網絡空間安全副院長沈超、西交利物浦大學電氣與電子工程系教授黃開竹、清華大學副教授張超等人從各個角度提供建議,如防止AI的濫用和誤用,加強相關標準制定,加強人才培養,進一步深化人工智能與各個實體產業的融合等。
阿里巴巴給出了AI安全的典範。“當業界還在擔憂AI安全性的問題,我們已經在阿里的安全場景中全面使用AI技術,安全本身的攻防對抗屬性下,AI也在進化,” 阿里巴巴集團安全技術總經理錢磊說,阿里安全通過在打擊假貨、營商環境治理、網絡安全、數據安全、新零售安全等領域的AI應用,希望打造出更安全、更可信、可解釋的安全AI。“在2019年天貓雙11當天,我們的安全AI大腦完成風險防控388億次,99%的黃牛被系統準確攔截。”
錢磊公佈了一組安全AI的防控數據:在打擊假貨方面,96%的疑似侵權鏈接一上線就被封殺、96%的知識產權投訴在24小時內被處理;在保障商家經營方面,每天應對千萬級風險訂單識別和判斷,累計攔截上百萬惡評攻擊。這一成績得到了徐宗本的認同與點贊:AI打假提供了更多機器學習、大數據分析,對真假甄別意義重大,AI打假是數字技術、人工智能的應用場景。
閱讀更多 欒城普法 的文章
