文 | 北京科技大學 張凌寒
東北師範大學 梁語函
算法與司法實踐的結合，需要一個逐步成熟完善的過程。一方面，由於法律要素難以數據化、規則代碼化與數據採集存在偏差，算法與司法活動存在契合難題；另一方面，算法決策適用於司法審判是否符合正當程序，算法的計算結論取代法官決策是否具有正當性等，諸多問題存在爭議。算法應用於司法系統，既要平衡其作為技術商業秘密與公權力公開原則的衝突，又要平衡司法系統高效率與公民個人權利保護的衝突。
2016年，美國“盧米斯訴威斯康星州”案引發了廣泛關注。盧米斯認為法院使用COMPAS量刑算法對其的判決不公，正是由於算法深度參與司法審判是否具有正當性和合理性而引起的。從20世紀90年代起，算法即已逐步開始應用於域外司法實踐。美國首席大法官小約翰·G·羅伯茨曾在採訪中被記者問到：“你能預見有一天，由人工智能驅動的智能機器將協助法庭調查事實，甚至協助司法決策嗎？”其回應道：“這一天已經到來。”
算法對司法實踐的作用可分為三個層次：支持、取代和顛覆。在支持層面上，算法為司法實踐提供信息及便利性支持；在取代層面上，算法可以取代由人類執行的功能和活動；最後，算法可以改變法官的工作方式，提供與以往不同的司法形式，顛覆司法的流程、進行預測性分析甚至重塑法官決策。就算法在司法實踐中的應用而言，其正在逐步超越第一層次，發展至第二層次甚至以獨特的方式對司法活動產生更深的影響。筆者擬通過梳理分析域外相關經驗，為我國司法實踐中的算法應用提供鏡鑑。
算法在域外司法實踐中的應用現狀
從司法活動流程的角度梳理，算法在域外司法實踐中的應用包括：一是事前的犯罪預防與偵查環節，包括熱點警務預測、個人風險評估、面部識別系統和數字取證工具；二是法庭審判輔助環節，可以提供檢索、在線糾紛解決等輔助功能；三是司法裁判環節，以算法結合既往數據，模擬司法裁判，為法官決策提供選項。
（一）事前的犯罪預防與偵查環節
1. 熱點警務預測
根據既往犯罪數據，通過算法分析各地區的犯罪發生風險。警方可以根據算法預測結果，在高風險地區有針對性地部署警力，從而預防可能發生的犯罪。英國東米德蘭茲警方應用ProMap系統，由分析師根據犯罪記錄等數據，手工繪製犯罪地圖，根據既往數據，分析預測未來盜竊案的發生地點與時間；荷蘭阿姆斯特丹警方創建了刑事預判系統，並在全國範圍內推廣；美國孟菲斯市警察局應用Blue Crush預測犯罪分析系統，用於分析基於位置和時間的犯罪模式與不斷變化的趨勢，大幅降低了犯罪率。
2. 個人風險評估
警務系統中的算法應用可以用來評估犯罪嫌疑人，預測嫌疑人再犯風險，選取潛在的高風險受害人，甚至用來評估警員個人表現。一是評估被逮捕人。英國達勒姆警方與劍橋大學合作開發了危害評估風險工具HART，該工具應用隨機森林算法，預測被逮捕人再犯的風險，並將風險歸為“低、中、高”三個級別。二是評估嫌疑人。英國倫敦大都會警察局系統內部署了一個軟件，該軟件應用算法，建立風險評分，顯示與持刀犯罪有關的個人信息。三是評估受害者。英國薩默塞特警察局系統內部署了一項預測失蹤兒童的系統，該系統通過分析大量的報告和電話，以預測兒童何時可能失蹤。四是評估警方工作人員。美國北卡羅來納州警方與大學合作開發的系統，可根據警官級別不同，預測可能犯有不當行為風險的警官，防止其對自己和他人造成嚴重後果。
3. 數字取證工具
在刑事調查及法庭程序中，運用算法蒐集、分析及解釋相關數碼資料，可快速確定案件的方向，以協助司法公正。數字取證包括：解釋模稜兩可的數字資料或痕跡；識別犯罪嫌疑人與數字材料或痕跡之間的聯繫；從一系列證據中重建整個事件。標準的法醫實踐（如DNA測試和視聽分析）也是一種數字取證工具。
（二）法庭審判輔助環節
算法在法庭審判輔助環節的應用，即司法工具的智能化，是對司法工具的一種創新性改進。傳統的庭審活動逐漸發生變化，運用預測編碼，可實現複雜文件的檢索識別，從而實現大數據對於人工的解放；或是運用在線糾紛解決系統解決糾紛，從而減少線下傳統庭審的數量。
預測編碼作為一種算法支持下的文本分類技術，能夠幫助法官或律師提供高效率、低成本的法律數據檢索工作。現有的法律法規繁多冗雜，判例數以萬計，相關文檔可達數百萬頁。預測編碼基於律師及案情專家對測試文件（或一組種子文件、正確性檢測文件或訓練文件）的審閱，對案件相關的特定文件進行識別。該技術在一定程度上顛覆了傳統庭審活動。2012年，在Moniqueda Silva Moore 等人訴 PublicisGroup SA &MSL Group案中，美國紐約南區聯邦地區法院主審法官批准被告使用預測編碼技術審查其收集到的大約300萬封電子郵件。自2012年以來，在英美司法審判中，使用預測編碼技術的案例逐漸增多。預測編碼技術的廣泛應用，不僅大幅節省了成本，其結果也比人力審查更為準確。
在線糾紛解決（ODR）也是一種算法技術，可以完成在線協商、在線預判評估、在線調解、在線仲裁及在線訴訟。海牙國際法協會為荷蘭法律援助中心開發了一項名為Rechtwijzer的替代性糾紛解決方式（ADR）。首先，糾紛雙方需回答Rechtwijzer設定的一些問題。然後，Rechtwijzer會對這些輸入信息進行技術處理，輸出結果。如果未能達成解決方案，Rechtwijzer將向雙方提供專業第三方（如調解人、法律代表等）的信息和聯繫方式。此外，Rechtwijzer還鼓勵當事人自行解決爭議。
（三）司法裁判環節
司法裁判智能化主要有兩種情形：一是法官輔助系統，即通過法律專家系統，實現對人類法律推理的模擬，輔助進行司法裁判；二是機器人法官系統，即通過機器學習算法，對大數據進行分析，發現人類司法裁判的內在規律，為法官決策提供選項。
1. 算法輔助法官進行司法裁判
算法在法官決策輔助系統中的主要作用在於“預測”。通過對既往判決的文本分析，輸入現有案件的要素數據，得出對案件結果的預測分析，即“分析過去的數據，制定未來的規則”。倫敦大學學院、謝菲爾德大學和賓夕法尼亞大學共同組建的研究團隊開發設計了一項預測輔助審判系統，通過對《歐洲人權公約》的文本解析及相關案例分類，可以預測具體個案中是否出現了違法情況，預測的成功率高達79%。此外，對罪犯進行再犯風險分析的創新技術，為刑事司法官員和法官提供了決策依據。美國刑事司法系統在審判和假釋的各個階段，已經採用了數十項自動化系統，包括公共安全評估（PSA）、定罪後風險評估（PCRA）、懲教犯管理畫像（COMPAS）等系統。
2. 算法作為機器人法官進行司法裁判
算法可通過大數據分析、機器學習進行預測，為法官決策提供選項。2018年，美國加利福尼亞州通過SB10號法案，取消了保釋金制度，改為使用風險評估算法工具。根據該工具風險評估的結果，決定被告在候審期間應被釋放或被關押。
算法在域外司法實踐中存在的問題
算法的應用增強了司法能力、提高了司法效率，但與此同時，算法的應用也引發了廣泛的擔憂。在算法研發、應用、部署的各個階段，都可能因技術與司法實踐活動的契合不足，而產生對法律權威、正當程序和當事人合法權利的消極影響。
（一）算法與司法活動存在契合難題
應用於司法實踐中的算法系統主要存在三個方面的問題：一是法律要素難以數據化；二是算法難以取代法律思維；三是規則代碼化與數據採集存在偏差。
1. 法律要素難以數據化
法律要素的數據化包括：大前提法律規定的數據化和小前提案件事實（即證據）的數據化。其一，法律規定的數據化存在困難。法律中的諸多要素和邏輯模式，難以簡單抽象化、數字化，這也是算法在各領域應用中的共性問題。算法只能處理可以形式化和量化的數據，難以傳達司法過程背後的含義、衡量法律原則、實現自由裁量。如果不能將法律條文和價值取向完美融合於算法系統，那麼，缺乏核心價值觀的刑事司法系統的算法應用，必然是有缺陷的。其二，證據的數據化存在困難。證據數據化的前提是對傳統證據進行符合計算機認知模式的結構改造。但實務中的證據，諸如物證、書證等實物證據，無法拆分，難以具象為數據編碼。而當事人陳述、證人證言等，雖不依託於實物載體，但由於內含信息的不確定與變動性，數據編碼難以反映其原有的法律含義。
2. 算法難以取代法律思維
法律思維的獨特性在於，法律判決是在大前提確定的情況下，通過一系列小前提（即證據），進行邏輯推理分析，進而得出結論。法律思維方式的特殊性，使算法難以完全模擬。
應用於司法的算法系統有多重設計方案，但按照原理可以分為兩類：一類是基於概率論的算法系統；另一類是基於邏輯推理的啟發式算法系統。
基於概率論的算法系統，將要素抽象為計算變量，通過構建數學模型，將變量嵌入模型，得出答案，並能預測出該結論的準確性。例如，將大前提法律依據和小前提證據依次嵌入數學模型中，得出該法律結論存在的可能性，超過標準數值（假定為95%），則認為該法律結論成立。但是，結果仍有5%的可能性是錯誤的。對於數學計算來說，或許是可以接受的；但對於司法判決來說，5%意味著可能會把無辜的人送進監獄。
基於邏輯推理的啟發式算法系統，其運行過程更接近於人類的思維方式。2017年，倫敦100名律師和一個名為Case Cruncher Alpha的AI律師進行了一項預測法庭案件的競賽，Case Cruncher Alpha以86.6%vs 66.3%的準確度戰勝了律師們。啟發式算法系統模擬了人的思維方式，在計算的基礎上加入了學習和經驗。但這種系統最大的問題是缺少算法決策的可解釋性，無法追溯與驗證。
3. 規則代碼化與數據採集存在偏差
編制算法的技術人員如果沒有足夠專業的法律知識儲備，無法確保將複雜的法律條文和判例正確地轉化為代碼。例如，2007年4月，一名來自私營公司的程序員由於缺乏相關背景知識，將900多條不正確的規則植入美國科羅拉多州的公共福利系統，把“無家可歸”編碼為“行乞為生”，導致一位失去住所、流落街頭的60歲婦女在申請增加食品券數量時，遭到多次拒絕，原因是系統認定其為乞丐。
在數據的選用和處理過程中，技術人員也發揮著舉足輕重的作用：選擇數據集，進行數據的清洗和去噪，決定數據標記和分類方法等。無論採集、處理還是分析，任一環節出現錯誤，都可能產生不可逆轉的偏差和傷害。即便是極小的錯誤，由於錯誤數據可能被算法系統多次利用，也可能導致錯誤累積，進而造成損害的彌散化。
（二）算法適用於司法活動的正當性爭議
1. 算法系統採購與使用的正當性
如何賦予算法適用於司法活動的正當性，在諸多方面存在爭議。首先，算法的供應商往往為私營技術公司，由於算法存在“技術黑箱”，導致應用於公權力部門的算法應用缺乏充分的評估和監督。從開發人員的角度來看，揭示算法如何運作，有可能會將有價值的商業秘密信息暴露給競爭對手。其次，如何評價算法系統的質量與技術準確性，尚無通用的標準與程序。部分國外學者對於在警務和其他刑事司法機構中使用大數據分析的假定中立性、效率和質量存疑。最後，如果發生錯誤，如何在算法開發者、供應商和採購關係中分配責任，也存在爭議。
2. 算法決策適用於司法審判的正當程序設置存在爭議
司法活動要求正當程序的嚴格適用。但是，對於算法系統在司法過程中的使用邊界與使用程序，並無定論。程序正當性的缺失勢必會影響結果的正當性。算法系統在證據規則指引、單一證據校驗、逮捕條件審查、社會危險性評估、類案推送、量刑參考、案件評議、減刑假釋案件辦理等方面都發揮著作用。然而，目前尚未形成一套成熟完整的程序指引。在證據蒐集的過程中，需明確哪些算法系統可以蒐集證據，證據滿足哪些條件可以採納；當事人是否有權要求對算法得出的案件結論進行專家審核等。
3. 算法結論適用的正當性存在爭議
結論適用的正當性問題，即由算法系統的計算結論取代法官決策是否合理和正當，存在爭議。2016年7月，美國威斯康星州最高法院禁止法官將算法系統評定被告的分數作為監禁或釋放的決定性因素，要求保證法官在決策中的作用。如果僅通過增加人為審核環節，就認可算法決策的正當性，將可能導致司法系統被唯算法論所支配。為此，澳大利亞政府發佈的《最佳實踐指南：行政決策的自動輔助》明確指出，算法系統只起輔助作用，“不可自主進行自由裁量”，且“不得干擾決策者行使自由裁量權”。
域外司法實踐中算法應用的啟示
域外司法實踐中算法應用的現狀與困境，為我國推行智慧司法等提供了鏡鑑與啟示。現有技術或許無法保證算法使用中數據的絕對可靠、算法決策系統的絕對正確，但是，處理好利益衝突，則可以儘量避免算法應用於司法系統帶來的危害。
算法作為技術商業秘密，與公權力公開原則存在一定衝突。如何將算法的“技術黑箱”特質與公權力行使透明的原則相結合？如果長期保持算法系統決策過程的不可解釋性和不透明性，則衝擊了權力公開的基本法律原則。即使某些算法組成部分可能免於公開披露，但明確、負責任地使用機器學習，可以與長期確立的司法和行政決策原則相兼容。因此，有必要促進算法可解釋技術的發展，同時發展正當程序，增加算法披露的環節，切實賦予決策相對人知曉並理解算法邏輯的權利，實現對相關主體的救濟。
域外法治 | 歐盟機構電子隱私保護新動向
域外法治 | 淺談國際投資仲裁中的賄賂腐敗行為認定問題
域外法治 | 淺析大數據背景下醫療保健領域之隱私保護
域外法治 | 美國陪審團制度的運作及其弊端
域外法治 | 氣候變化議題的全球司法化進程及展望
域外法治 | 澳大利亞聯邦法院因仲裁庭臨時中止令而暫停裁決執行程序
域外法治 | 英國最高法院大法官霍奇談“法律與技術變革”
域外法治 | 美國商標法中判定指示性使用規則的演化及其在互聯網經濟領域的應用
域外法治 | 《數字千年版權法》對互聯網在線服務的影響
域外法治 | 加拿大審理第一起無人機公訴案
本期封面及目錄
《中國審判》雜誌2020年第6期
中國審判新聞半月刊·總第244期
編輯/孫敏
