20分鐘破解指紋鎖,人臉識別下隱身,人工智能到底有多靠譜?

在比賽時間結束前的幾秒鐘裡,當評委和主持人幾乎要宣佈失敗的節骨眼上,現場觀眾突然發現屏幕上出現了“被動了手腳”的黃健翔的圖片和清晰的伊萬卡的照片,在最後關頭,TSAIL戰隊完成了讓AI犯錯的任務。

20分鐘破解指紋鎖,人臉識別下隱身,人工智能到底有多靠譜?

同樣充滿戲劇性的是,在指紋識別的挑戰中,參賽選手在時間倒計時20秒內才完成了指紋製作,然而就在拿指紋去驗證的過程中,做好的指紋意外落地,引得全場驚呼。好在,指紋找到,併成功打開了四部智能設備。

這是投中網CV智識在GeekPwn2019現場見證的一幕幕真實畫面。

一場最具戲劇性的指紋挑戰賽

在現實生活中,大家可能在不經意中會留下很多指紋,這些指紋看上去非常“淡”、非常的無足輕重,但是這些信息足夠讓不法分子做你的指紋膜。

“因為時間不夠了,讀秒到20秒的時候就強行停止了,指紋還沒有雕完,只用了2/3的指紋,另外1/3還沒有打完。”剛剛參加完GeekPwn2019指紋解鎖挑戰賽的騰訊玄武實驗室指紋識別項目選手陳昱談到。

在挑戰過程中,陳昱經歷了兩個戲劇性的時刻,一是在時間截止前的最後一秒完成了滿意的指紋製作,二是在從操作檯拿到設備上驗證的過程中,指紋意外掉落到了地上。


20分鐘破解指紋鎖,人臉識別下隱身,人工智能到底有多靠譜?


但就是這2/3並且因為意外掉到過地上的指紋,幫助陳昱在指紋識別比賽中成功破解了五個設備,完成了挑戰,從中足以看出,依靠技術手段獲取普通用戶的指紋已經不是科技界的難事。

與其他比賽項目不同,指紋識別的挑戰賽只有陳昱一個人參加。

比賽剛開始時,多數的現場觀眾或是在閒聊,或是處在中午疲憊期而興趣寥寥。

為什麼沒有對手?面對媒體的發問,陳昱解釋道:“極棒比賽有兩種pwn和表演賽,我這個屬於表演賽。”

比賽開始時,評委介紹稱,在本次指紋解鎖挑戰中,核心點在於在20分鐘內做一個指紋出來,並把所有的設備全部打開。

選手需要指紋解鎖的設備主要有六個,分別是四部手機和兩個指紋打卡機,這六個設備用的是不同的技術。

活動現場,隨機找到的志願者把指紋印在玻璃杯上,隨後陳昱先要在玻璃杯上取得目標指紋,然後根據指紋樣本,用3D打印機將指膜打印出來,進而實現指紋解鎖。

與想象中採取指紋方式不同,陳昱是先把玻璃杯放到暗箱裡去拍照——找指紋,然而在挑戰過程中,這個簡單的採集指紋動作就用了將近1分鐘。

緊接著,他把手機裡的照片進行了放大,將圖片中的噪點進行了二次處理,以便3D打印時,指膜能夠更加的準確清晰。

三分鐘時,陳昱完成了第一個指膜的“3D打印”,但幾分鐘後,他似乎對拍攝的照片不滿意。然後又開始了新一輪的重複動作。

隨著比賽的一步步進行,越來越多的觀眾已經從閒聊和瞌睡中緩過神來,開始聚精會神地關注著比賽。

在剩8分30秒時,陳昱把雕刻的痕跡做了一些清理,並把雕刻出來的指紋剪了出來。其實這個雕刻過程還是需要挺長時間的,大概5分鐘才能完成一次。

正是由於在指紋雕刻過程中花費了太多的時間,所以留給指紋再加工的時間非常有限。

接下來,可怕的一幕也發生了,由於陳昱在比賽前半段一直沒有獲得滿意的指紋雕刻圖像,所以在比賽結束20秒前他還沒有一枚能拿去破解的指紋。

直到時間所剩無幾,他精心修過的指紋才最終成型。

“可以看到現在陳昱的手都抖的不行,出了滿頭大汗。”主持人黃健翔在現場調侃道。

在解鎖之前,還有一個把全場觀眾注意力推向高潮的一個細節,那就是指紋掉地上了。

這一幕發生時,黃健翔反覆強調,“我保證這絕對不是安排好的。”

緊接著,在全場觀眾的矚目下,陳昱開始了指紋印證開鎖的環節,經過反覆的測試,最終揭開了兩個打卡機和三部手機。

這個比賽裡面,為什麼時間指標如此重要?

評委解釋稱,因為指紋採集是在咖啡館、茶館等真實場景中,而指紋解鎖需要接觸到手機,所以對指膜做出來的時間有客觀要求,只有這樣才能在短時間內完成解鎖。

關於這次破解的成本,陳昱坦言,“硬件加在一起1千多,雕刻材料1塊錢可以做出十幾個,基本忽略不計。軟件只是一部手機、我自己開發的一個App,所以是用廉價方式雕刻出一個3D指紋,這在以前是沒有的。”

“第一個困難是選擇材料,短時間內不可能嘗試多種材料去攻克不同原理的指紋。所以選材料花了很久。第二個困難就是拍攝,由於只能用手機拍攝,所以比賽中這部分花了很長時間,如果用專用設備就容易得多。第三是不能被防偽系統認出,即讓它認為是真實的手指上的指紋,而不是假的。”陳昱邊回憶邊敘述著這次挑戰中的難點。

在此之前,以二維特徵為技術原理的光學指紋和電容指紋,已經能夠用不到5毛錢耗材的成本,在5分鐘之內被攻破。

但本次涉及到的指紋識別是超聲波指紋,這項技術是考察三維特徵的。因而破解也需要用更高端的技術。

評委談到,“這一次很大一個難點在於超聲波的滲透。第二是要用一個指紋把所有的設備解鎖,難度性也非常大。”

此外,在與陳昱之後的交談中,投中網CV智識瞭解到,這次挑戰項目是拍手指在光滑平面(比如手機屏幕)上殘留的指紋的痕跡,通過這種方式殘留的指紋場景更多。所以演示的也是難度最高的——玻璃杯採集。

“屏幕上採集指紋難度比玻璃杯低好幾倍,但屏幕上比杯子上採集容易。”陳昱說。

誠然,這次的挑戰並沒有達到100%的成功,畢竟還有兩部手機沒有解開。

談到對結果的感受,陳昱告訴投中網CV智識,“考慮到現場緊張的情緒和環境影響,對這個結果已經滿意了。”

其實,雖然陳昱在指紋識別領域已經有了兩年多的探索,但是在極棒這個賽場上他還是一個新選手。

指紋難,臉更難,清華戰隊巧騙AI

與陳昱不同,包攬兩項AI挑戰賽冠軍的團隊——TSAIL站隊,他們是由三名清華計算機博士生和RealAI聯合組成的頂配團隊,似乎從出場就帶著主角光環。

除了清華博士的頭銜,讓人對他們的比賽有些許的期待外,他們還有多個國際大賽冠軍的背景加持。

在2017年,TSAIL站隊就已經拿了Google頂尖機器學習三個對抗樣板賽的冠軍。去年,他們也獲得了極棒拉斯維加斯的冠軍。

與過去毫無二致,此次他們參賽的項目依舊都與AI相關,這回問題的核心點在於讓AI犯錯。

作為極棒大賽的傳統項目,這無疑代表著此次大賽的最高難度和水準。

第一個比賽中,組委會為選手提供了三個挑戰:定向攻擊,非定向攻擊,並攻擊知名人臉識別服務。

這場比賽的高潮在於,TSAIL戰隊在第三關“人臉識別攻擊”中用圖片成功欺騙Clarifai人臉識別系統,讓AI將黃健翔識別成了“美國第一千金”伊萬卡,雖然置信度很低,但依照比賽規則,判定選手攻破成功。


20分鐘破解指紋鎖,人臉識別下隱身,人工智能到底有多靠譜?


“我們只能算勉強成功了一部分。因為三個模型中我們只攻破了一個,並且攻破的效果也不是特別好。”賽後,TSAIL站隊選手們如此的自評道。

與在現場時的熱鬧不同,在採訪過程中,他們十分冷靜和理智。可能是已經習慣了大賽奪冠的結果,他們也並沒有表現出明顯的喜悅。

直到談到比賽的技術原理,他們才開始滔滔不絕起來。

其實,現在國外AI已經能夠實現“換臉”了。不過從原理來看,之前的“換臉”與本次挑戰賽中的還是不一樣的。

對此,他們解釋道:“我們整個照片中臉其實沒有換,我們只是在原有的照片上做了點微小的改變,人看起來改變不大,但這種微小的改變就能夠讓機器誤以為是伊萬卡的照片”。

“從學術角度來看,它實際上是數學的一個優化問題,因為目前神經網絡有些漏洞,優化是一種途徑。通過一些優化方法讓模型認為它就是要攻擊的目標對象——伊萬卡。單從挑戰內容來看,不同性別,國籍,人種和年齡都會有一定的影響。”他們進一步談到。

一般而言,攻防型比賽從技術角度主要分為黑盒和白盒兩種,白盒是指主辦方給出模型的具體參數。這樣一來,攻破就會變得更容易一點。

而黑盒則是不給具體參數,需要用類似反推技術找到具體參數,這次比賽中攻擊的人臉識別就是一個典型的黑盒場景,難度更大。

“這次人臉識別的攻擊主要要攻亞馬遜、微軟的API,對我們來說,因為商業保密性,並不知道它背後實現是怎樣的,但我們發現不同的神經網絡有一些共同點,通過利用這些共同點,它們有共同的漏洞,所以我們利用這些共同的漏洞來攻擊。”參賽選手表示。

羅馬不是一天建成的,選手的技術積累和比賽成功也不是依靠朝夕的功夫。

他們坦言,實驗室本身在這個領域已經了有很深的積累。具體到他們個人,至少兩年前就開始了研究,寫了很多代碼,看了很多論文。而這次針對極棒出的新賽題,也探索了一些新的方法,最近這一個月其實主要是針對任務調試。

所以取得好成績似乎是意料之中的,而比賽失敗才是意料之外的事情。

在積累中創新,在創新中攻破,這一系列的動作最終使得TSAIL站隊最終以229.77分的累計得分,成功拿到GeekPwn2019 CAAD CTF圖像對抗樣本攻防賽的第一名。

除了讓AI“臉盲”,參賽者們還可以讓AI“失明”。

在CAAD隱身挑戰賽中,選手僅通過A4紙便在AI的監視下成功實現了“隱身”,真正達到了類似哈利波特中的“隱身斗篷”效果。

具體規則是,選手們需要在規定時間內,通過總面積不超過一張A4大小的圖片來遮擋身體,並在現場接受算法的實時檢測,如果算法模型識別不出人的存在且結果維持10s以上,則挑戰成功。

值得注意的是,此次比賽選手全部攻破的是被視為“目標檢測網絡的巔峰之作”的YOLOv3系統。

投中網CV智識在現場看到,這個比賽雖然有多支隊伍參加,但是每次場上只有一組挑戰,在二十分鐘的比賽時長中,參賽選手不斷的調整和更換現場觀眾手中的A4紙,以便找出算法的漏洞。

最終,Hiding Cat、NISLer、TSAIL三支戰隊選手挑戰成功,成功挑戰的檢測距離均為1米,其中TSAIL戰隊使用的紙張面積最小,僅為196平方釐米。

TSAIL戰隊在賽後的採訪中表示,這個原理跟人臉識別一樣,本質上都是用一些方法找AI模型的漏洞,技術上是相通的。

雖然TSAIL戰隊在這項比賽中取得的也是最優的成績,但在他們自己眼裡這個結果卻不能讓人滿意。

他們表示,現場的不確定因素比較大,尤其光照,會影響補丁的分佈,如果曝光嚴重,A4紙上的圖就會變樣。但規則要求在每個人身上都要達到一個通用的消失,這是一個技術難點,因為補丁是定製化的。

“跟今天的比賽場景不一樣,如果提前知道要誰隱身的話,可以做定製化補丁,這個技術比今天的簡單一些。但今天是隨機在下面抽一個人,我沒有辦法根據他的體形、五官、衣著來定製化補丁,這對補丁的質量要求會更高。”

至於為什麼維持10秒以上才算成功時,他們告訴投中網CV智識,“其實檢測是每幀都在做,主要是為了保持穩定性。如果上一秒隱身下一秒出現,這從使用角度來講不算成功。如果隱身10秒以上,這個技術就好一點。10秒鐘是賽方設定的一個時間,理論上是無限時間的。”

此外,這次CAAD隱身挑戰賽對於AI安全來說還有著極高的現實意義,在對抗樣本的作用下,活生生的人可以在鏡頭下實現“隱身”,這將使得犯罪分子甚至可以逃避執法機關的追捕,成為行走在鏡頭下的“危險隱形人”!

可見,當下“大紅大紫”的AI技術安全性的確值得重視,因為一旦對抗樣本在某些真實環境下被濫用,便很有可能造成極為嚴重的後果。

00後少年特工

與鑽研多年的研究員和學識豐富的清華博士不同,今年新登場的少年極客顯得青澀而緊張。

據介紹,到現場參賽的是通過初賽選拔的 17 支青少年戰隊,他們之中大部分是第一次參加這類比賽,最小年齡僅為9歲。


20分鐘破解指紋鎖,人臉識別下隱身,人工智能到底有多靠譜?


可能是考慮到孩子們緊張的因素,亦或是因為這是首次少年極客比賽,所以小朋友們的賽場設置在了大會場館的左側。

在此之前,針對機器人挑戰賽的設置大多較為一致:開門、爬樓梯、轉動閥門……不少道具與關卡稍顯笨重枯燥。

而GeekPwn2019將“挑戰”與“特工”進行關聯,利用密閉空間與救援任務的場景式還原,增加了放置易燃炸彈模型、收集顏色礦石等情節設定,提高了挑戰的緊張感與趣味性。

比賽要求各戰隊機器人完成指定位置放倒旗幟、隔絕通道、放置炸彈模型、中斷信號線、穿越逃脫、脫離遙控收集制定顏色礦石等多項任務。

關於設置這樣一場少年比賽的初衷,GeekPwn 創始人王琦略顯著急和焦慮地談到,“現在的少兒教育大部分是學機器人和編程。看了課程設置,我有個絕望的看法,這個世界未來不會要每個人都是程序員。我認為更多需要的是思維的訓練。所以把青少年帶到極客大賽這樣的環境來。我們最基本的一個想法,是告訴他們,成長路線上得掌握哪些知識。”

在比賽現場可以看到機器人特工攜帶炸彈模型秘密潛入,跨過重重障礙機關,中斷報警信號線路、悄無聲息地放置好炸彈模型,再巧妙地全身而退……這場景酷似好萊塢大片的經典情節。

賽後,投中網CV智識採訪了兩位少年極客代表——黃思瀚和蔡一銘,他們均是初中學生。

即使是獲得了第三名,但是回憶起比賽的難度時,黃思瀚還是直言“很難”。

“雖然比賽前已經先用零件組裝了機器人,並通過APP預設了編程,設置了動作,也用iPad操控機器人完成了任務。但是這其中的邏輯編程還是很困難的。”

被問及具體的難點,他回答稱,“要自動識別,而且需要預設編程,要不斷調整。”

同樣,獲得第二名的蔡一銘也表達了類似觀點,“我們準備了一個多月,每次都調試到很晚才回去,還要做作業。”

據瞭解,要完成所有的任務,機器人需要完成拆線、爬坡、移動和按按鈕這些動作。而對於初中生來說,機器人的編程和組裝是相當複雜的,尤其是拼裝,還需要進一步加固。

作為首次參賽的選手,他們在賽前做了大量的訓練和多次的預演,也設計了三四款不同版本的機器人。

他們自己也承認在預演過程中,出現了很多次失敗,然後接著是一遍遍的改進。

其中,按按鈕要精準,被所有的參賽者看做是最難攻克的點。

蔡一銘進一步解釋,“如果不精準就會按到旁邊,導致機械臂的框有個縫隙,會卡住,閘門可能會被壓住,導致後面的程序進行不下去。”

在比賽過程中,黃思瀚甚至在按按鈕的時候出現了失誤,導致門掉了下來!

被問及出現失誤的感受時, 他回答道,“比賽過程中出現一些意外無法避免。但不能緊張,要沉著冷靜。”

值得欣慰的是,雖然比賽中多是個人戰,但是少年極客之間也有許多協助配合,面對比賽,他們的心態更多的是相互學習,在競爭中找到改進辦法。黃思瀚甚至俗套地說,“ 友誼第一,比賽第二。”

據悉,早在GeekPwn2018,青少年群體就已在這一極客比賽中嶄露頭角,在當年的機器特工挑戰賽中,唯一一支高中生戰隊便憑藉優異表現成功斬獲大賽第三名。

與往年相比,今年除了年齡下限降低外,還有不少由“科技少女”帶頭的團隊入選。

雖然年紀尚小,但不可否認不少00後、10後已經開始在國內外諸多機器人大賽中獲獎,新生一代的少年極客正在崛起。

結語

在今年的GeekPwn2019上,投中網CV智識可以清晰地感受到,伴隨著雲計算、AI、物聯網、5G等前沿科技的普及,極客的影響力邊界正在拓寬。

不管是比賽中的指紋識別,人臉識別還是AI時代下的隱身術,在為人們帶來前沿科技體驗的同時,也隱隱地埋下了危險的種子。

不過,好在,在現實生活中有這樣一批人,他們好似前沿技術中的消防員,一直在發現漏洞、攻破漏洞的路上在探索著,努力著。

身為普通人的他們在賽場上閃閃發光,靠自己的努力,守護著一方安全。

同時,新一批少年極客的崛起,也讓我們看到了未來世界,安全可期的模樣。(文/張雪 編輯/張麗娟 來源/投中網旗下CV智識)


分享到:


相關文章: