選自 New Scientist
機器之心編譯
AI 在未來或許可以幫助警察在犯罪發生之前對其進行預測，並及時制止。但與「少數派報告」不同的是，英國警方提出的計劃採取更為友善的干預方式，而不會像電影中一樣，讓特警隊破門而入。不過該計劃仍然引發了對倫理問題的大量爭論。
近日，據 New Scientist 報道，英國警察正希望使用人工智能預測嚴重暴力犯罪。這一計劃的執行方式是：被計算機系統標註的高風險人群將被提前干預，例如接受詢問，以避免潛在的犯罪行為。
然而，世界領先的數據科學研究機構在看到這一提案的編輯版本之後表達了對該項目的嚴重關切。
英國提出的 AI 系統名為國家數據分析解決方案（NDAS），它使用人工智能和統計數據來評估個人試圖持槍或持刀犯罪的可能性，同時也可以評估個人成為現代奴隸的幾率。
這一項目由英國西米德蘭茲郡（West Midlands）警方領導，預計會在 2019 年 3 月推出原型。包括倫敦警察廳和大曼徹斯特警察局在內的其他 8 個警察部門也參與其中。在 NDAS 的計劃中，未來全英國所有的警察部門都將使用該工具。
近年來，英國用於警力的資金正逐漸減少，因此警務部門急需一種可以監視所有已知個人的新系統，並優先追蹤急需注意的一小部分，該項目的警察負責人 Iain Donnelly 表示。
預先干預
關於識別出這樣的個體之後採取什麼行動仍然是個有爭議的問題，Donnelly 說道。他說其目的不是為了先發制人式地逮捕任何人，而是為當地治安和社會工作者提供支持。例如，他們可以為被 NDAS 標記為有心理健康問題而可能實施暴力犯罪的個體提供諮詢。潛在的受害者可以接受社會服務。
這樣的項目在全世界範圍內是首例，集合了來自大量警力的多個數據集用於犯罪預測，Donnelly 說道。在早期階段，該團隊從當地和國家的警方數據庫收集了超過 1TB 的數據，包括人們被阻止和搜查的記錄以及犯罪記錄。數據包含大約 500 萬個可識別的個體。
通過該數據集，軟件可以找到大約 1400 個可以幫助預測犯罪的指標，其中有大約 30 個尤其有效：包括個體在他人幫助下實施犯罪的次數，以及個體在社會組織中犯罪的次數。NDAS 的機器學習組件將使用這些指標來預測：哪些個體目前的行為尚未升級，但可能會出現和過去案例相似的暴力行為。這樣的個體會被分配一個危險係數，指示未來出現攻擊行為的可能性。
這種做法有效嗎？
西米德蘭茲郡警局希望在下一年年初使用 NDAS 進行首批犯罪預測。他們將與英國數據監督部門信息專員辦公室合作，確保 NDAS 符合隱私規定。
但是，該項目已經引起批評。阿蘭·圖靈研究所的一支團隊（Data Ethics Group）去年看到了 NDAS 計劃的編輯版本，並將在一份報告中發表對此的判斷。
Data Ethics Group 在報告中稱 NDAS 存在「嚴重的倫理問題」，在個人沒有犯罪的時候先預測 ta 犯罪的概率，這真的有助於大眾利益嗎？該團隊的研究人員認為儘管這項計劃的初衷是好的，但它無法完全識別重要的問題，錯誤的預測會引發擔憂。
哥倫比亞特區大學 Andrew Ferguson 表示，分析工具基於過去的逮捕記錄進行預測，這會使得警察局可能只關注固定的區域，導致偏見的強化。逮捕與警力部署的區域相關卻與犯罪地點不相關，這會導致過度「關注」有色人群和貧困社區的居民。
英國卡迪夫大學犯罪與安全研究所所長 Martin Innes 稱，他對該系統能夠合理預測個人的犯罪行為這一說法「持懷疑態度」。該工具可能在預測比較危險的區域方面比較有用。
西米德蘭茲郡警察局邀請 Innes 及其同僚近期對 NDAS 的效果進行獨立評估。
牛津互聯網研究所 Sandra Wachter 認為，此類系統的本質困難在於，評估在沒有警察或其他服務干預的情況下預測結果是否準確。「我如何知道它做出的決策是否正確？這是很難衡量的。」
預先治安（predictive policing）的風險
在全世界範圍內，警察越來越多地使用數據來預測犯罪。例如，加州聖塔克拉拉大學開發的 PredPol 嘗試預測未來犯罪熱點地區。該系統在美國和英國都有應用。洛杉磯警局根據一些特徵（如是否有前科或是否為幫派中知名成員）評估犯罪風險指數。巡邏警察將更加關注「最危險」的人。
荷蘭使用另一款軟件來分析犯罪數據和特定區域的社交數據，如年齡、工資、是否申請救濟金等。警察利用這些數據來預測某種類型的犯罪多發於城市哪個區域。
原文鏈接：https://www.newscientist.com/article/2186512-exclusive-uk-police-wants-ai-to-stop-violent-crime-before-it-happens/
每日精選教程，掃碼開啟訂閱，每天18:00及時速遞。
閱讀更多 坤艮機器之心 的文章
