01.19 這家公司識別了30億張網絡照片身份 專家稱人類隱私將不復存在

這家公司識別了30億張網絡照片身份 專家稱人類隱私將不復存在

人臉識別技術的快速應用,雖然方便了人類的生活和工作,但是同時帶來了史無前例的侵犯個人隱私的威脅,歐盟正在考慮禁止在公共場所使用人臉識別(時間長達五年),微軟公司也呼籲各國政府注意人臉識別應用的監管。

據外媒最新消息,一家不為人知的科技新創公司正在利用人臉識別技術對全世界老百姓的隱私權構成巨大威脅,這家公司從Facebook等各種社交網絡上採集了30億張照片,識別了詳細身份,他們甚至和警方展開了合作。

據國外媒體報道,直到最近,霍唐(Hoan Ton-That)最成功的一些軟件包括一款與眾不同的蘋果手機遊戲,以及一款讓人們把唐納德·特朗普與眾不同的黃頭髮放在自己照片上的特效軟件。

後來,身為澳大利亞科技開發者和曾經的模特的霍唐做了一件大事:他發明了一種工具,這種工具將會終止你隱藏身份在街上行走的能力,他把這一工具提供給數百個執法機構,包括從佛羅里達州的當地警察到聯邦調查局和國土安全部。

他的小公司“明視人工智能”(ClearView AI)設計了一款開創性的人臉識別應用。你給一個人拍了一張照片,上傳後就可以看到這個人所有的網絡公開照片,以及那些照片出現的鏈接。

該系統的主幹是一個包含30多億張圖片的數據庫,明視公司聲稱這些圖片是從Facebook、YouTube、Venmo和數百萬其他網站上搜羅來的,遠遠超出了美國政府或加州硅谷巨頭曾經構建的任何照片數據庫。

美國聯邦和州執法官員表示,雖然他們對明視公司的工作方式和幕後主使知之甚少,但他們利用其應用軟件幫助解決了商店盜竊、身份盜竊、信用卡欺詐、謀殺和兒童性虐待案件。

到目前為止,根據每個人的面部圖像識別其身份一直是禁忌,因為它嚴重侵害了個人隱私權。一些有能力發佈這種工具的科技公司沒有這樣做。

2011年,谷歌董事長當時表示,這是該公司一直保留的一項技術,因為它可能被“以非常糟糕的方式”被濫用。過去,包括加州舊金山在內的一些大城市禁止警方使用人臉識別技術。

但據該公司稱,在沒有公眾監督的情況下,600多家執法機構在過去一年開始使用明視公司的系統,該公司拒絕提供執法機構的詳細名單。

據美國媒體分析,明視公司應用軟件背後的計算機代碼包括將系統與增強現實眼鏡進行匹配的內容,用戶能夠識別他們在街上看到的每個人。該工具可以識別抗議活動中的活動分子或地鐵上有吸引力的陌生人,不僅可以顯示他們的名字,還可以顯示他們住在哪裡、做了什麼以及認識誰。

另外,除了執法部門之外,明視公司還出於安全目的向至少幾家公司授權了該應用軟件。

“這種武器化的可能性是無窮無盡的,”加州聖克拉拉大學高科技法律研究所的聯合主任埃裡克·戈德曼說。“想象一下,一個流氓執法官員想要跟蹤潛在的浪漫伴侶,或者一個國家利用這一點挖掘關於人們的秘密來敲詐他們或者把他們扔進監獄。”

明視公司一直隱藏在秘密之中,避免就其突破邊界的技術展開辯論。當外媒在去年11月份開始調查這家公司時,它的網站只是一個空白頁,顯示了一個不存在的曼哈頓地址作為它的營業地。

該公司在白領社交網絡LinkedIn只列出了一名員工,一名名叫“約翰·古德”的銷售經理,此人原來就是上述的開發者霍唐,只不過用了一個假名。一個月內,這家公司的員工沒有回覆媒體的電子郵件或電話。

當公司在躲避媒體記者的時候,它也在監視記者。在媒體的要求下,一些警察已經通過明視公司應用軟件掃描了調查記者的照片。他們很快就接到了明視公司代表的電話,詢問他們是否在與媒體交談,這表明明視公司有能力,也有興趣監控執法部門在尋找誰。

人臉識別技術一直備受爭議。這讓人們對個人隱私權感到緊張。過去,針對為某些群體(比如有色人種),人臉識別系統提供不太精準的識別結果,引發了一些爭議。

警方使用的一些人臉識別產品——包括明視公司的產品——還沒有經過獨立專家的審查。

明視公司的應用軟件帶來額外的風險,因為執法機構正在將敏感照片上傳到一家公司的服務器上,該公司保護個人數據的能力未經測試。

該公司最終開始回答媒體記者的問題,稱其早期的沉默是秘密模式下早期初創企業的典型特徵。霍唐承認設計了一款用於增強現實眼鏡的原型,但表示公司沒有發佈計劃。他說,記者的照片敲響了警鐘,因為該應用“標記了可能的異常搜索行為”,以防止用戶進行它認為“不恰當的搜索”

除了霍唐之外,明視公司的創始人還包括理查德·施瓦茨,此人在魯道夫·朱利安尼擔任紐約市長時是他的助手。明視公司由彼得·泰爾提供資金支持,後者是Facebook和Palantir等公司背後的知名風險投資家。

明視公司的另一個早期投資者是一家名為基倫納加的小公司。它的創始人大衛·斯卡索對明視公司使整個互聯網可以通過面部搜索的擔憂不予理會,他說這是一個有價值的犯罪解決工具。

斯卡索說,“我得出的結論是,因為信息不斷增加,永遠不會有隱私。法律必須確定什麼是合法的,但你不能禁止技術。當然,這可能會導致混亂的未來,但你不能禁止它。”

沉迷於人工智能

31歲的霍唐在遠離美國硅谷的地方長大。在他的祖國澳大利亞,他從小在越南祖先的故事長大。2007年,他大學輟學,搬到美國舊金山。當時蘋果手機剛剛上市,他的目標是儘早進入他預期的充滿活力的社交媒體應用市場。但他早期的創業從未獲得真正的成功。

2009年,霍唐創建了一個網站,讓人們通過移動聊天軟件與所有聯繫人分享視頻鏈接,這個網站後來被打上“網絡釣魚騙局”的標籤,隨後霍唐關閉了網站。

2015年,他推出了“特朗普頭髮”軟件,這個特效工具可以在普通人的頭部加上特朗普特徵的金髮。霍唐還開發了另外一個照片分享工具,但是這些軟件產品基本上都失敗了。

霍唐十分沮喪,他於2016年搬到了美國紐約。霍唐又高又瘦,留著黑色長髮,他曾考慮過職業模特的生涯,但在一次模特嘗試後,他又開始試圖搞清楚科技領域的下一件大事。他開始閱讀關於人工智能、圖像識別和機器學習的學術論文。

施瓦茨和霍唐於2016年在曼哈頓研究所的一次圖書活動中相遇,曼哈頓研究所是一個保守的智囊團。現年61歲的施瓦茨在1990年代為朱利安尼工作,並在21世紀初擔任《紐約每日新聞》的編輯,積累了令人印象深刻的人脈網絡。

兩人很快決定一起進入人臉識別行業:霍唐將會開發這個應用軟件,施瓦茨將會利用他的人脈來激發外界的商業興趣。

實際上,各國的警察部門已經使用人臉識別工具將近20年了,但是他們在歷史上僅限於搜索政府提供的人臉圖像,比如臉部照片和駕照照片。近年來,人臉識別算法的準確性有所提高,像亞馬遜這樣的公司提供的產品可以為任何圖像數據庫創建人臉識別程序。

霍唐要超越現有人臉識別公司的水平。他從2016年開始招募了幾名工程師。其中一個幫助設計了一個程序,可以通過互聯網自動收集人們的面部圖像,比如就業網站、新聞網站、教育網站和社交網絡,包括Facebook、YouTube、推特、Instagram甚至Venmo。

這些公司的代表對新聞界表示,他們的政策禁止這種人臉照片採集行為,推特網站表示,它明確禁止使用其數據進行人臉識別。

另一名招聘的工程師工作是完善從學術論文中提取的人臉識別算法。最終,明視公司取得了一個成功,一個霍唐描述的“最先進的神經網絡”,可以將所有圖像轉換成基於面部幾何的數學公式或矢量,比如一個人的眼睛有多遠。

明視公司創建了一個巨大的目錄,將所有向量相似的照片聚集到“鄰域”中。當用戶上傳一張人臉照片到明視公司的系統中時,它會將人臉轉換成一個矢量,然後顯示存儲在該矢量鄰域中的所有被刮的照片,以及這些圖像來源的網站鏈接。

施瓦茨支付了服務器費用和基本費用,但公司運作十分簡單,每個人都在家工作。“我靠信用卡債務生活,”霍唐說,“另外,我是比特幣的信徒,所以我有一些比特幣。”

隨著警方應用迅速傳播

到2017年底,該公司已經開發出了一個強大的人臉識別工具,叫做“智能審查器”。但是施瓦茨和霍唐還不知道要賣給誰。

也許這個工具可以用來審查家裡僱傭的保姆,或者作為監控攝像頭的附加功能。酒店大堂的保安如果能夠利用這個工具直接識別出客人身份,稱呼客人的名字會怎樣?“我們想到了每一個創意。”霍唐說。

根據一份文件顯示,2017年底,明視公司人臉識別一個更奇怪的應用提議是讓保羅·尼倫(一個自稱“親白人”的共和黨人,在威斯康星州競選國會議員)使用“非常規數據庫”進行“極端反對者研究”,這份文件後來公佈在網上。

不過霍唐表示,公司從未真正提供過這樣的人臉識別服務。

該公司很快更名為“明視人工智能公司”,並開始向執法部門營銷軟件。當時,該公司從外部投資者——泰爾和基倫納加——那裡獲得了第一輪融資。除此之外,泰爾還因秘密資助胡克·霍根的訴訟而聞名,該訴訟導致廣受歡迎的網站Gawker破產。泰爾和霍唐一直是該網站負面新聞的主角。

泰爾的發言人傑裡邁亞·霍爾(Jeremiah Hall)表示:“2017年,彼得給了一位才華橫溢的年輕創始人20萬美元,兩年後這筆錢被轉換成了明視公司的股權。那是彼得唯一的貢獻,他沒有參與公司業務。”

據追蹤初創企業投資的網站Pitchbook稱,即使在2019年第二輪融資後,明視公司仍然很小,累計從投資者那裡籌集了700萬美元。該公司拒絕對媒體確認投資金額。

今年2月,印第安納州警方開始試驗明視公司的人臉識別軟件。他們在使用該應用軟件後20分鐘內解決了一個案件。

在案件中,兩個人在公園裡打了一架,當一個人朝另一個人的肚子開槍時,鬥毆結束了。一名目擊者通過電話報告了這一罪行。隨後警方通過明視公司的應用軟件搜索持槍者的面部表情照片。

他們立刻找到了一個匹配對象:這個人出現在一段社交媒體上的視頻中,他的名字被包含在視頻的標題中。“他沒有駕駛執照,成年後也沒有被捕,所以他不在政府數據庫中,”當時印第安納州警察隊長查克·科恩(Chuck Cohen)說。

這個人被逮捕並受到指控。科恩說,如果沒有在社交媒體上搜索他的人臉照片的能力,他可能不會被認出來。

據該公司稱,印第安納州警方成為明視公司的第一個付費客戶,警方拒絕置評,只是說他們測試了明視公司的人臉識別軟件。

明視公司找了現任和前任共和黨官員來接近警方,銷售軟件。該公司提供免費試用和最低2000美元的年度使用費。

據霍唐說,施瓦茨利用他的政治關係來幫助政府官員發現這個人臉識別系統。“我很高興有機會幫助霍唐將明視公司建設成一個使命驅動的組織,幫助執法部門保護兒童,增強全國各地社區的安全,”施瓦茨通過一名發言人說。

該公司與客戶的主要聯繫人是傑西卡·梅德羅斯·加里森(Jessica Medeiros Garrison),她曾經參加阿拉巴馬州司法部長管理路德·斯特朗的共和黨競選活動。相關人士稱,加里森是該公司的“增長顧問”。明視公司表示,這是一個短暫的、無報酬的角色,該公司還邀請了民主黨人來幫助推銷其產品。

該公司最有效的銷售技巧是向警方提供30天免費試用,然後警官鼓勵他們的採購部門註冊軟件,並在會議和在網絡向其他警察部門的警官稱讚該工具。這樣一步一步,霍唐的人臉識別在警方圈子內引起了轟動。

去年7月,美國新澤西州克利夫頓的一名警官在一封電子郵件中敦促他的上司購買該軟件,因為它“能夠在幾秒鐘內識別出一名嫌疑犯”。

在該部門的免費試用過程中,明視公司指認了商店扒手、蘋果商店小偷和一個見義勇為的撒瑪利亞人,這個人痛擊了一個用刀子威脅他人的歹徒。

這位警官在的電子郵件中寫道,“可以用長焦鏡頭秘密拍攝照片並輸入軟件,而不使用警方的跟蹤監控操作。”

根據明視公司的銷售演示材料,該應用軟件有助於識別各類人群,比如一個被指控性虐待兒童的人,他的臉出現在別人健身房照片的鏡子裡;亞特蘭大一系列郵箱盜竊案的幕後黑手;一個被發現死在阿拉巴馬州人行道上的無名氏,以及銀行多重身份欺詐案件的嫌疑人。

在佛羅里達州的蓋恩斯維爾,警官尼克·費拉拉去年夏天在面對金融犯罪調查人員的廣告中聽說了明視公司。他說,他以前只依賴於佛羅里達州州政府提供的人臉識別工具FACES,該工具從佛羅里達3000多萬張面部照片和機動車部門的照片中提取了人臉信息。

費拉拉發現明視公司的應用軟件更先進,他說。它的全國人臉圖像數據庫要大得多,另外和FACES不同的是,明視公司的算法不需要人臉正對攝像頭的照片。

費拉拉警官說:“有了明視公司,你可以使用拍攝不完美的照片。一個人可以戴著帽子或眼鏡,也可以是側面照片或他們面部的局部視圖。”

他把自己的照片上傳到系統,系統調出了他在社交支付網站Venmo的個人資料頁面。他輸入了了舊的、未結案案件的照片,並確認了30多名嫌疑人。去年9月,蓋恩斯維爾警察局支付了10000美元購買了一年的明視公司人臉識別系統許可證。

據該公司和政府官員稱,聯邦執法部門,包括聯邦調查局和國土安全部,以及加拿大執法當局,正在嘗試明視的軟件。

儘管越來越受歡迎,明視公司一直避免被公開提及,直到2019年底,佛羅里達州檢察官指控一名婦女在克萊蒙特的艾斯五金店偷了兩個烤架和一個真空吸塵器後犯有盜竊罪。當警察通過明視公司從監控錄像中提取一個靜止圖像,並把它們帶到她的Facebook頁面時,她就被認出來了。根據該案的文件,監控視頻和Facebook照片中可見的紋身證實了她的身份。

“我們都完蛋了”

不過,霍唐也指出,人臉識別系統並非任何時候都有效。明視公司數據庫中的大多數照片都是在眼睛水平高度拍攝的。警方上傳的大部分照片或者視頻來自安裝在天花板或牆上的監控攝像頭。

“他們把監控攝像頭放得太高了,”霍唐感嘆道。“這個角度對於人臉識別正常工作是錯誤的。”

該公司表示,儘管如此,其工具仍能在75%的時間裡找到匹配人員。不過,目前還不清楚該工具多長時間會發生一次錯誤匹配,因為它還沒有被一個獨立的機構測試過,比如美國國家標準技術研究所(這是一個評估人臉識別算法性能的聯邦機構)。

“我們沒有數據表明明視公司的識別系統是準確的,”喬治城大學隱私與技術中心的研究員克萊爾·加維說,他曾經研究政府部門對人臉識別的使用。“數據庫越大,由於所謂的‘二重身’效應,錯誤識別的風險就越大。他們使用的是在互聯網上找到的大量隨機人群的人臉數據庫。”

但現任和前任執法官員表示,該識別軟件是有效的。“對我們來說,試用過程主要是看它是否有效,”前印第安納州警察隊長科恩說。

明視公司識別系統流行的原因之一是它的服務是獨一無二的。這是因為Facebook和其他社交媒體網站禁止人們抓取用戶的圖像——明視公司違反了網站的服務條款。

“很多人都在這麼做,”霍唐聳聳肩。“Facebook知道。”

Facebook發言人傑伊·南查羅(Jay Nancarrow)表示,該公司正在與明視公司一起審查這一情況,“如果我們發現他們違反了我們的規定,將採取適當的行動。”

明視公司的投資者泰爾是Facebook的董事會成員。南查羅拒絕對泰爾的個人投資置評。

一些警方官員說,他們沒有意識到他們上傳的照片被髮送到明視公司的服務器上、並存儲在服務器上。明視公司試圖用一份發給潛在客戶的聯邦調查局文件來消除人們的擔憂,該文件稱其客戶支持部門的員工不會查看警方上傳的照片。

明視公司還聘請了喬治·布什擔任總統時期的美國副檢察長保羅·克萊門特來緩解人們對人臉識別應用軟件合法性的擔憂。

克萊門特在8月份給潛在客戶(包括亞特蘭大警察局和佛羅里達州皮內利亞斯郡治安官辦公室)的備忘錄中表示,執法機構“在將明視公司用於預期目的時,不會違反聯邦憲法或相關的現有州生物特徵和隱私法。”

克萊門特現在是柯克蘭埃利斯公司的合夥人,他寫道,執法部門沒有必要告訴被告他們是通過明視公司系統被指認的,只要這不是獲得逮捕令的唯一依據。克萊門特沒有回應更多置評請求。

備忘錄似乎是有效的;亞特蘭大警方和皮內拉斯縣治安官辦公室很快開始使用明視公司的軟件。

因為警方上傳了他們試圖指認的嫌犯照片,明視公司擁有一個不斷增長的嫌犯臉部信息數據庫(這些個人已經引起了執法部門的注意)。該公司也有能力操縱警方看到的結果。當公司意識到媒體記者要求官員通過應用軟件輸入記者照片後,記者的臉被明視公司的系統標記出來,有一段時間沒有顯示匹配。

當被問及此事時,霍唐大笑起來,稱之為“軟件缺陷”。

“他們的所作所為令人毛骨悚然,但這些公司還會有更多。”斯坦福法學院隱私教授阿爾·吉達利說:“數學沒有壟斷這一說,如果沒有一項非常強有力的聯邦隱私法,我們都完蛋了。”

霍唐說他的公司只使用公開的圖片。他說,如果你在Facebook上更改隱私設置,使搜索引擎無法鏈接到你的個人資料,你的Facebook照片將不會被包括在數據庫中。

但是如果你的檔案已經被蒐羅了,那就太晚了。儘管後來可以被刪除或撤下,該公司仍保留所有被採集的圖像。

不過,明視公司也表示,該公司正在開發一種工具,如果圖像已經從原始網站撤下,人們可以要求明視將其刪除。

美國波士頓東北大學法律和計算機科學教授伍德羅·哈特佐格認為,明視公司是美國有必要禁止人臉識別的最新證據。

哈特佐格說,“我們一直依靠行業努力來自我約束,不接受如此高風險的技術,但現在水壩正在崩潰,因為桌子上有這麼多錢。我看不出未來我們可以在防止監控濫用的背景下使用人臉識別技術的優勢,阻止它的唯一方法就是禁止它。”

每個人都知道你的名字

在曼哈頓切爾西區的一個明視公司辦公室接受採訪時,霍唐演示了這個應用軟件。他拍了一張自拍並上傳到系統上,該應用軟件調出了他的23張照片。其中一個是,他赤裸上身,抽著一支香菸,渾身是血。

霍唐然後給記者拍照,隨後識別系統返回了很多照片結果,可以追溯到十年前,包括記者自己以前從未見過的照片。當調查記者用手捂住鼻子和臉的底部時,這個應用軟件仍然返回了七個正確的匹配。

警官和明視公司的投資者預測,該公司的應用軟件最終將對公眾開放。

霍唐表示他不願意,“總會有一群壞人濫用它,”他說。

即使明視公司不公開它的應用軟件,其他公司也可以進行模仿,現在禁忌被打破了。

今天,搜索一個人的照片就像搜索一個名字一樣容易。陌生人可以偷聽敏感的談話,給談話者拍照,掌握個人秘密,另外人們走在街上的人會很快被認出來,只需要幾次點擊就能夠獲得他的家庭住址,這將預示著公眾隱私的終結。

當被問及將這樣一種力量帶入這個世界意味著什麼時,霍唐似乎吃了一驚。“我必須考慮一下,”他說。“我們認為這是對這項技術的最佳利用。”


分享到:


相關文章: