廣州普法
人臉識別給我們的生活帶來了諸多的便捷，例如無票乘車、上班打卡、協助警方逮捕犯罪分子等等。
然而，如果依靠不成熟的人臉識別技術，則可能要付出高昂的代價。
近日，紐約一名18歲的學生起訴了蘋果公司，並要求索賠10億美元，原因是蘋果的面部識別軟件錯誤地將他與蘋果商店的一系列盜竊案聯繫在了一起。更糟糕的是，蘋果將錯誤的信息提供給了警方，逮捕了這名學生。
網絡圖
原告：罪犯很可能使用了我的身份實施盜竊
彭博社的報道中稱，這名叫奧斯曼·巴（Ousmane Bah）的學生於2018年11月29日凌晨4點在他紐約的家中被逮捕，當時他被指控從一家蘋果商店偷竊物品。
奧斯曼在本週一提起的訴訟中稱，警方的逮捕令中顯示的嫌犯照片並不像他，但警方還是對他進行了逮捕。他表示，他被指控的一起盜竊案發生在2018年5月31日，實施盜竊的罪犯使用他的身份信息冒充了他，並在蘋果商店內偷走了價值1200美元的商品。
奧斯曼還表示，他當天在紐約曼哈頓參加畢業舞會，根本不可能在波士頓實施盜竊。
“我被迫對多項虛假的指控做出回應，這些指控也導致了我嚴重的壓力，並給我帶來了諸多困難。”奧斯曼在起訴書中說道。據悉，奧斯曼此次起訴的被告中包括蘋果公司和一家名為Security Industry Experts Inc.的公司，但兩家公司都拒絕置評。
奧斯曼表示，他曾經丟失過一個學習許可，上面包括了他的姓名、住址和個人信息，但沒有照片。他稱，這張學習許可可能被真正的盜賊發現或者偷走，並在蘋果零售店用作身份證明，這或許導致他的姓名被錯誤地和蘋果面部識別系統中的盜賊面孔聯繫在一起。
奧斯曼認為，蘋果公司可能是相信了這名男子的話，隨後蘋果商店內的安全系統就將這名嫌犯的面部識別成了他的臉。
除了波士頓的這家蘋果商店外，真正實施了盜竊的罪犯還在新澤西州、特拉華州和曼哈頓的蘋果商店實施了盜竊。法庭文件顯示，直到在去年6月收到法院的傳票後，奧斯曼才得知自己被指控盜竊。截至目前，除了新澤西州外，其他所有州對奧斯曼的指控都已被撤銷，新澤西州的案件目前仍在等待判決。
“由於蘋果的疏忽，奧斯曼在多個州被指控犯有多項重罪。在此之前，奧斯曼從未面臨過法律的指控，也從未與執法部門發生過任何衝突。由於被告的疏忽，奧斯曼先生受到了嚴重的傷害。” 奧斯曼的律師Subhan Tariq在一份聲明中表示。“被（錯誤地）逮捕讓奧斯曼感到羞辱、害怕和深深地擔憂。”
紐約警察局的探員們認為，在其中一起盜竊案中，真正的犯罪人是使用了奧斯曼的學習許可作為身份證明，這就導致奧斯曼的名字與小偷聯繫在了一起。起訴書中稱，探員們“懷疑實施這些盜竊的人一定在其中的一次盜竊中使用了奧斯曼的臨時身份證明。”
起訴書中還稱，蘋果“在其商店中使用面部識別軟件來追蹤涉嫌盜竊的個人，這是消費者應該擔心的一種監控形式，尤其是大多數消費者並不知道他們的面部正在被秘密地分析。”
網絡圖
人臉識別失敗案例比比皆是
從以上案例可以看出，儘管人臉識別系統在過去幾年的時間內已經變得越來越強大，但也有嚴重失誤的例子，蘋果的這起案例也只是眾多人臉識別失敗案例中的一起。
在2017年9月蘋果iPhone X的發佈會上，也出現了極其尷尬的一幕。當時蘋果公司軟件工程高級副總裁克雷格·費德里吉（Craig Federighi）在發佈會上表示：“iPhone X將使用人臉識別技術來解鎖，從而保護用戶的個人信息。”然而，費德里吉在發佈會上展示這一全新功能時，他手上的iPhone X並未能識別出他的面部信息，他隨後便被迫使用密碼來解鎖這部iPhone X。後來蘋果表示，面部識別解鎖是能確保的，問題的發生是由於費德里吉操作不當。
除了蘋果外，三星手機也面臨著同樣的問題。
網絡圖
網上瘋傳的幾段視頻顯示，只要將在另一部手機上的用戶自拍照對準三星的手機，擁有面部識別功能的三星手機便能成功識別並解鎖。這隨後引起了三星手機用戶極大的擔憂，因為這樣任何人有用戶自拍的人都能很容易地解鎖手機。後來三星承認，人臉識別功能並不意味著100%的安全，這只是解鎖手機的另一種方式罷了。
2013年波士頓馬拉松爆炸案也是一個人臉識別技術慘敗的案例。
儘管事後有監控錄像顯示兩名嫌疑人的圖像，但警方使用的人臉識別檢測系統還是無法識別出任何人。研究人員表示，這是因為圖像的像素太低，不利於算法的運行。
此外，谷歌廣受歡迎的照片應用程序在很大程度上依賴人臉識別來對用戶相冊中的照片進行分類，但當這款應用程序錯誤地將一對黑人夫婦貼上“大猩猩”的標籤後，也遭遇到了廣泛的抨擊。
要說人臉識別最可怕的錯誤，那麼就要說到美國丹佛的金融顧問史蒂夫·塔利（Steve Tally）兩次被誣告搶劫兩家銀行。當時，美國聯邦調查局（FBI）的面部識別系統發現史蒂夫·塔利和搶劫銀行的人有相似之處。但尷尬的是，因為面部識別器未能識別出塔利右臉頰上的痣，並且他的身高比真正的罪犯高了3公分，隨後對塔利的所有指控全被撤銷。塔利也因這次錯誤的逮捕失去了工作和家庭，在他被捕期間還受傷，目前無家可歸。 塔利也對此提起了訴訟，要求賠償他1000萬美元。
“刷臉”應用廣泛，對隱私權的威脅值得重視
“刷臉”進站、“刷臉”支付、“刷臉”簽到、“刷臉”執法……
人臉識別技術正走進更為廣闊的應用場景，與指紋、虹膜等相比，人臉是一個具有弱隱私性的生物特徵，因此，這一技術對於公民隱私保護造成的威脅性尤其值得重視。
網絡圖
人臉特徵具有終身唯一且無法改變的特點，若不法分子將獲取的用戶身份特徵用於違法目的，將對公民個人隱私造成洩露甚至侵害。
“人臉圖像或視頻廣義上講也是數據，如果沒有妥善保管和合理使用，就會容易侵犯用戶的隱私。”中國社會科學院哲學研究所研究員段偉文說。
“大數據時代，個人在互聯網上的任何行為都會變成數據被沉澱下來，而這些數據的彙集都可能最終導致個人隱私的洩露。”湖南師範大學人工智能道德決策研究所所長李倫認為，用戶已經成為被觀察、分析和監測的對象。
雖然我國《網絡安全法》明確將個人生物識別信息納入個人信息範圍，但對於信息的使用、存儲、運輸、管理仍需進一步細化。
2017年7月，國務院印發《新一代人工智能發展規劃》中強調，促進人工智能行業和企業自律，切實加強管理，加大對數據濫用、侵犯個人隱私、違背道德倫理等行為的懲戒力度。
“雖然‘刷臉’的應用越來越多，但人工智能目前仍處於起步階段，需加大對數據和隱私的保護力度，關注和防範由算法濫用所導致的決策失誤和社會不公。”
在個人數據權利的保護方面，段偉文建議，應促使數據交易各方對自己的行為負責，讓每個人知道自己的數據如何被處理，特別是用於其他用途的情形，減少數據濫用，讓人們清楚知道自己的“臉”還是否安全。
因此，還需加快建立健全人臉識別技術使用統一標準，制定相應的法律法規和制度規範，使人臉識別技術朝著高安全性、高便攜性、非接觸性以及低成本的方向良性發展。
對此，你怎麼看？
往期精彩回顧
◇著名相聲演員實名舉報黑惡勢力：曾遭報復，但不害怕
◇【關注】快遞員私拆包裹，內衣化妝品被擺拍發朋友圈？
◇【提醒】這張“罰單”你不一定見過，但一定得知道！
◇開車34分鐘用手機30次！司機隧道內當場身亡！教訓太慘痛！
◇【提醒】女子過海關時被捕，差點被判死刑！竟是因為……
◇【拍案】假“葫蘆娃”被真“葫蘆娃”起訴，罰50萬餘元
來源 | 每日經濟新聞、騰訊研究院、深圳市南山區文化科技促進會
溫馨提示：如果本公號轉載的稿件涉及您的版權、名譽權等問題，請儘快與本公號聯繫，本公號將依照國家相關法律法規妥善安排處理。請致電：020—83100091。
在看點一下，大家都知道
閱讀更多 廣州普法 的文章
