人臉識別技術已逐漸融入人們的生活，許多智能手機用戶選擇開啟“刷臉”功能，以方便自己的生活；不少小區門禁也升級使用人臉識別設備；有的醫院也開始探索嘗試通過“人臉識別+身份驗證”的方式掛號，以遏制“黃牛黨”的倒票行為。
在人臉識別技術隨處可見的同時，公眾對這一技術應用的擔憂也與日俱增。該技術的應用領域、準確度、數據採集保密度尚存在不足之處，導致部分濫用、甚至“翻車”現象。此前有媒體報道，某便利店設置人臉識別付款方式，但經記者觀察，卻無人使用；某小區快遞櫃設置人臉識別取件渠道，但實際上只要用一張打印照片就能代替真人刷臉，騙過快遞櫃的人臉識別系統。
中國人臉識別第一案
2019年10月28日，因浙江杭州野生動物世界要求錄入年卡會員的人臉信息，浙江理工大學副教授郭兵對其安全性、隱私性表示質疑，認為其違法，遂向浙江省杭州市富陽區人民法院起訴。2019年11月1日，富陽法院受理此案。目前該案正在審理過程中。由於該案涉及人臉識別技術，從而引發關注，被稱為“中國人臉識別第一案”。
起訴書顯示，2019年4月27日，郭兵購買了杭州野生動物世界年卡，支付了年卡卡費1360元。辦理該年卡時，被告杭州野生動物世界明確承諾在該卡有效期一年內（自2019年4月27日至2020年4月26日），通過同時驗證年卡及指紋入園，可在該年度不限次數暢遊。
然而在2019年10月17日，杭州野生動物世界在未與郭兵進行任何協商、亦未徵得其同意的情況下，通過短信的方式告知原告：“園區年卡系統已升級為人臉識別入園，原指紋識別已取消，未註冊人臉識別的用戶將無法正常入園。”
郭兵親自確認了這一內容，並被告知，若不進行人臉識別註冊將無法入園，也無法辦理退卡退費手續。
郭兵認為，園區升級後的年卡系統進行人臉識別將收集他的面部特徵等個人生物識別信息。該類信息屬於個人敏感信息，一旦洩露、非法提供或者濫用，將極易危害包括原告在內的消費者人身和財產安全。
儘管園區表示，這一做法是出於讓遊客快速通行的需求。但郭兵認為，杭州野生動物世界在未經其同意的情況下，通過升級年卡系統，強制收集他的個人生物識別信息，嚴重違反了《中華人民共和國消費者權益保護法》等法律的相關規定。
杭州野生動物世界一名負責人表示，年卡用戶入園必須比對身份，指紋識別偶爾會出現遲滯情況。該負責人表示，從試行期的統計來看，人臉識別確實有效提升了消費者的入園效率。
“《中華人民共和國網絡安全法》（以下簡稱《網絡安全法》）規定，收集、使用個人信息時應當公開收集、使用規則，並經被收集者同意。”中國政法大學知識產權研究中心研究員趙佔領認為，用戶在提供個人信息前，可以根據自身需要選擇是否提供。
趙佔領表示，收集、使用人臉特徵等生物特徵信息，涉及技術與法律的衝突、技術應用的邊界，尤其是生物特徵信息，一旦洩露，造成的危害巨大，甚至難以採取有效的彌補措施。
趙佔領認為，收集者在收集個人信息之後，如果沒有盡到法律規定的安全管理義務，因自身的管理或技術漏洞而導致個人信息外洩，則需要承擔民事賠償責任和行政責任，嚴重的甚至可能構成拒不履行信息網絡安全管理義務罪。
“如果主動將收集的個人信息非法提供給第三方，該行為還可能涉嫌構成侵犯公民個人信息罪。”趙佔領表示。
“刷臉”時代到來
人臉，承載了重要的身份信息。而在技術面前，人臉正成為辨認個體身份的“重要數據”。
在公共領域，應用人臉識別技術可以及時抓獲潛逃多年的犯罪嫌疑人，可以尋找到失散多年的被拐賣婦女兒童，執法效率和社會公共安全得以大幅提高。在商業領域，應用人臉識別技術不僅可以大大節約企業運營成本，提高管理效率，還可以開發更多的智能產品和智能服務，從而獲得新的利潤增長點。對於個人來說，應用人臉識別技術不僅可以提供便利性，減少輸入密碼或刷卡的繁瑣性，還可以提高安全性，減少竊密、造假、冒用、頂替等違法行為的產生。
據廣東深圳前瞻產業研究院統計數據顯示，2019年我國人臉識別市場規模為34.5億元人民幣，未來5年人臉識別市場規模將保持20%以上的增長速度，到2024年，市場規模將達到100億元人民幣左右。
人臉識別技術的市場潛力巨大，帶來廣泛應用。據媒體報道，2019年9月開學季期間，中國藥科大學全面引入人臉識別技術，不僅用於門禁，還在試點教室安裝攝像頭刷臉考勤，並對學生課堂聽課情況全面監控。有報道稱：“在部分教室試水後，逃課和‘替同學答到’或將成為歷史。”
“利用人臉識別類技術，無論是進行課堂管理還是教學效果分析，都不可避免要收集用戶的數據。”北京師範大學刑事法律科學研究院暨法學院副教授、聯合國網絡安全與網絡犯罪問題高級顧問吳沈括告訴記者，若類似技術被非法利用，個人信息的安全等問題將存在法律風險。
2019年8月底，一款AI換臉軟件“ZAO”一度刷爆了朋友圈。通過使用AI技術，該軟件將用戶上傳的照片置入影視片段之中，實現用戶與明星的“換臉”。但很快，該軟件因操作技術門檻低、採集人臉等個人生物識別信息未獲用戶明示同意、存在數據洩露或濫用風險等，被迫下架。“其興也勃焉，其亡也忽焉”的“換臉”APP，見證了公共安全意識與權利意識的覺醒——在技術突飛猛進的今天，大家越來越珍惜自己的“臉面”，這不僅關乎個人隱私與權益，同時也關乎公共安全。越來越多的人開始反思，人臉識別技術在公共服務領域中的使用邊界何在？
個人隱私洩露的危機
2020年1月29日，美國社交巨頭Facebook宣佈，就美國伊利諾伊州提起的集體訴訟已經提出了5.5億美元的初步和解方案。該訴訟指控Facebook向該州居民不當使用了人臉識別技術。
據瞭解，2011年，Facebook在未經任何人同意的情況下測試並推出面部識別軟件，用戶可通過該軟件給照片添加標籤。因該測試未經用戶認可，2015年，伊利諾伊州針對Facebook的這一行為提出起訴。
Facebook此次同意支付5.5億美元，是與隱私相關的集體訴訟案有史以來最大的現金和解協議，預計每位受到影響的用戶都將獲得約200美元的賠償。而截至目前，Facebook始終沒有承認有不法行為。
原告律師在2020年1月29日發表聲明表示：“生物識別和位置追蹤一樣，是隱私保護的兩大主要戰場，它會為我們的下一代定義隱私權。”
2018年，日本一家公司製作出了一款3D面具。據路透社報道，這種面具是該公司的創始人花了兩年時間研究出來的，材質是樹脂和塑料，通過掃描高質量的人臉圖片，製作包含人臉皮膚中微小皺紋、血管的面具。據悉，該公司每年收到的訂單約為100個左右，主要用於一些需要面部識別功能的產品測試。
無獨有偶，2019年12月12日，美國聖地亞哥的一家人工智能公司Kneron宣稱，用高清3D面具和照片，在世界多地成功欺騙了人臉識別系統。在亞洲，該測試團隊在商場中使用高質量的3D面具成功欺騙了支付寶和微信的支付程序。在荷蘭最大的機場——阿姆斯特丹史基浦機場，該測試團隊僅用一張手機屏幕上的照片就欺騙了自助登機終端的人臉識別系統。
該人工智能公司首席執行官Albert Liu在一份聲明中表示：“如果技術提供商沒有達到保障用戶的最高標準，則應追究他們的責任。”“該項測試涉及的公司眾多，足以說明不合格的面部識別技術是整個行業的問題。”
除此之外，敲詐和詐騙也需要警惕。據《華爾街日報》報道，2019年3月，有犯罪分子使用AI技術成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了220萬歐元。
人臉識別技術一旦被廣泛濫用，或將帶來巨大損失。
國家網絡安全基地培訓中心專家李剛在接受記者採訪時表示，外界對人臉識別技術有所牴觸，主要基於兩方面的擔憂：一方面是智能化認知判斷精準度；另一方面是認證和系統安全性。
“首先，所謂智能化認知判斷精準度，更多取決於人臉識別技術和應用本身的技術發展。精準度不高的識別技術，會給人們工作生活的便捷性、準確度造成影響，錯誤的判斷和認證，也會從大安全的角度，影響到技術的使用和應用的推廣；其次是認證和系統安全性，偽造面孔的防偽和識別功能性，以及人臉識別技術本身系統後臺的安全性，不僅涉及整個系統的安全應用，更涉及個人隱私等系統數據的保護。”李剛指出。
問責機制有待完善
2019年11月20日，由27家企業機構共同組成的人臉識別技術國家標準工作組正式成立，人臉識別國家標準制定工作全面啟動，有望引領“人臉識別”技術依法合規運行。
2020年1月20日，為規範人臉識別線下支付應用創新，防範“刷臉”支付安全風險，中國支付清算協會發布《人臉識別線下支付行業自律公約（試行）》（以下簡稱《公約》）。《公約》要求，從事“刷臉”支付收單服務的會員單位應嚴格遵守《銀行卡收單業務管理辦法》《非銀行支付機構網絡支付業務管理辦法》等管理要求，承擔收單環節支付敏感信息安全管理責任，不得將核心業務系統運營、受理終端密鑰管理、特約商戶資質審核等工作交由外包服務機構辦理。
2019年12月，南都個人信息保護研究中心人工智能倫理課題組發佈《人臉識別落地場景觀察報告（2019）》，總結了人臉識別應用的常見問題，並提出瞭解決建議。
調查中，有3000多位受訪者對網絡運營者的安全保障能力存有疑問，包括人臉信息公開無法加密、人臉信息綁定了與金錢有關的賬戶、不確定數據管理者是否能合法收集使用、擔心繫統技術不完善被黑產盜用等。在有關安全隱患中，79.31%的受訪者擔心繫統運營者安全能力欠缺導致人臉信息洩露，65.17%的人擔心換臉視頻等網絡虛假信息增多，49.57%的人擔心不法分子利用偽造信息實施詐騙或盜刷。
李剛表示，由於網絡信息化發展超前，法律上還存在“真空”。《網絡安全法》出臺時間不長，而個人信息保護法、數據安全法還在制定過程中。因此，未來網絡空間的治理，亟需通過立法來對政府執法、網絡服務商、網絡安全產品廠商、網民用戶、網絡空間行業機構等網絡空間角色、標準和秩序進行根本的規範。
中央財經大學法學院副教授劉權認為，人臉識別技術如果運用不當，確實可能產生很多風險，但不能由此因噎廢食，簡單加以禁止，而應有效地加以規範引導。數字科技需要在法律的軌道下發展創新，技術中立並不表明技術可以脫離法治，人臉識別技術必須受到法律規制。
《人臉識別落地場景觀察報告（2019）》中提出建議，針對不同人臉識別的應用場景進行利益衡量後，確定人臉識別應用的使用必要性和使用範圍。一方面須通過制定法律法規和國家標準，明確企業的從業資質與行為規範，包括“黑名單”“白名單”“推薦名單”；另一方面要制定完善的問責制度，明確處罰構成要件、處罰標準，從而最大限度地防範人臉識別技術的濫用。
本期封面及目錄
《中國審判》雜誌2020年第2期
中國審判新聞半月刊·總第240期
閱讀更多 中國審判 的文章
