本文發表在中共中央黨校學習時報20180718科技版
在網絡平臺服務盛行的今天，城市生活中的每個人在接受算法服務的同時，也默默地接受算法的影響和控制。但算法作為企業服務模式和商業模式的代碼化，既是企業的知識產權，又代表著企業核心競爭力，其歷來就以競爭性商業機密為理由，一直在黑暗和封閉的空間中野蠻生長，除了開發它的公司和程序員之外，無人知曉算法這個黑盒子裡面的運行機制究竟是什麼。網絡平臺算法目前處於監管空白區，存在大數據“殺熟”、推薦投其所好、破壞包容性發展等算法惡意利用行為，帶來的社會危害已經開始顯現，加強網絡平臺算法治理已經刻不容緩。
網絡平臺算法應用暴露的問題
不良算法催生了大數據殺熟。在大數據盛行的今天，人們在擔憂個人隱私洩露被企業用來作惡以外，還有一種大數據作惡方式讓人毛骨悚然，那就是商家基於大數據的千人千面，對已經養成消費習慣的老顧客，暗中提高銷售價格，坑害消費者利益，此類行為被稱為大數據“殺熟”行為。基於大數據的千人千面，通過讓渡部分個人隱私，幫助企業做最優決策，本是有利於雙方互利共贏的事情。但很多無良企業卻利用了大數據這個利器作惡，他們會給消費者的每次行為打數據標籤，甚至會為消費者打上千甚至上萬個標籤，可能比消費者自己都瞭解自己，然後利用這些標籤和消費者的消費習性牟取不屬於他們的利益。新零售火爆的當下，線上消費作為牽頭者，其積累了億萬消費大數據優勢，是其能夠作為引領消費的有力保障，但大數據“殺熟”醜聞的出現，將會影響新零售中用戶對大數據這個工具的態度，造成嚴重的不良影響。大數據“殺熟”行為具有很強的隱蔽性，沒有人能完全明白無良企業在數據黑箱裡究竟裝了哪些運算法則，也沒有人能夠在智能計算定義運行的經濟社會中“獨善其身”。
不良算法加劇了投其所好。互聯網在帶來自由開放的同時，很大程度上加深了投其所好和個人見識偏見。隨著互聯網的不斷髮展，網絡內容服務越來越個性化，它會投個人所好，為個人準備想看到的東西。網絡平臺會根據用戶的歷史記錄，制定投其所好的服務推薦算法，使得每個人會看到不同的內容，愛看八卦的人會不斷地被推薦八卦內容，愛看色情的人會不斷地被推薦色情內容，愛軍事就會不斷地被推薦軍事，愛體育就會不斷地被推薦體育;甚至在搜索引擎上輸入同一個關鍵詞，不同的人搜索的結果都可能是不一樣的。網絡平臺的這種投其所好的行為，對網絡平臺而言，其受歡迎程度會越來越高，其平臺用戶規模和流量也會越來越大，最終表現為企業收益上的增長。但對個體而言，網絡平臺這種做法在滿足了個體興趣愛好的同時，也會漸漸讓個人變得知識狹窄。甚者，如果網絡平臺推送的是博眼球、不良、不健康的內容，會導致受眾個體養成不良嗜好或偏好，讓個人誤入歧途。每個人看到的都是他願意看到的那部分信息，且這種現象在不斷加劇，這就是網絡平臺推薦算法造成的互聯網迴音壁現象。互聯網在打破信息壁壘的同時，也在形成新的部落壁壘。
不良算法破壞了包容性發展。網絡平臺按照網絡行為主體的服務能力、服務質量和信用記錄進行等級劃分，給服務對象在選擇服務時提供更好遴選參考。這本來是一件好事情，但這種做法一定程度上也破壞了包容性發展，尤其是在那些規模比較龐大、服務能力比較強、服務質量把關控制嚴、具有長期信用積累的大型企業面前，成立時間比較短、信用積累和服務能力有限、但具有很強創新力初創企業或中小企業而言，網絡平臺這種全面量體比較做法，進一步強化了“馬太效應”，大大縮小了創新型中小企業發展空間，遏制了其發展，同時對行業創新也構成了極大危害。另外，目前許多網絡平臺按照服務使用積分值來區分客戶服務等級的做法也破壞了包容性發展。與應用網絡服務較為頻繁的年輕人相比，老人、小孩等應用網絡服務較少的群體，網絡平臺如果按照使用歷史積分值來區分客戶優先服務等級，提供不同等級的服務，那麼老人、小孩這類本該享受更多幫扶的群體在網絡平臺算法面前，其應享受的權利就會被無情地剝奪，人群之間的數字鴻溝就會被進一步拉大。
網絡平臺問題產生原因
網絡平臺核心算法是企業服務模式和商業模式代碼化的結果，已經超越了技術本身，裡面蘊含著企業經營服務模式、商業模式、經營價值理念和企業價值觀。算法雖然不具有道德規制的屬性，但算法的開發者是受到社會制度規約的。算法有價值觀，算法的價值觀就是企業的價值觀，算法倫理道德缺陷是企業價值觀上的缺陷。部分企業利用大數據算法實施“殺熟”行為，跟傳統線下企業對新客戶實施“殺生”行為，同樣都是違背商業誠信的行為。部分企業大肆宣揚技術中立、算法中立等觀點，為了博大眾眼球，贏商業利益，宣傳和推動低俗內容，吸引點擊率和訪問率，辦網站的一味追求點擊率，做社交平臺的成為謠言擴散器，做搜索的僅以給錢的多少作為排位的標準，實質上滿眼球都是企業的利益，卻忽視了企業應遵守的社會公德和肩負的社會責任。
缺乏對算法的深度監管和治理。算法自從它誕生以來，就以競爭性商業機密的理由，一直在黑暗、封閉的空間中生長。算法作為蘊含在軟件和網絡平臺內部的運行規則，天生具有很大的隱蔽性和不透明性，加上算法一定程度上代表著企業商業模式和競爭模式，是企業的核心競爭力，代表著企業知識產權，因此企業核心算法公開度和透明性向來是比較低的。傳統各部門監管模式都是基於業務合規性的，但互聯網業務的分佈式和後臺管理等特性，給傳統利用集中監測手段來判斷業務合規性的監管模式帶來了很大挑戰。由於數據採集訪問、算法內容分析、系統開放等系列技術性問題，像大數據殺熟、個人信息違規利用等不合規業務很難被監測到，只有從算法內容層面加強深度治理，方可既治標又治本。
缺乏深層次的行業自律機制。類似大數據開發利用等各類聯盟很多，但是聚焦在軟件和網絡平臺運行算法合規性方面的聯盟目前幾乎空白。聯盟缺位使得企業對行業算法目標宗旨、應用標準、運行規則等方面缺乏公開交流探討，尚未形成統一共識。企業在設計算法時，就光盯著企業利益最大化，缺乏了行業共識規則的約束，加劇了行業亂象發生。行業評估是規範行業亂象、引導行業發展的重要手段，軟件網絡平臺算法方面行業評估的缺失，也使得部分企業算法胡作非為的情況缺乏同行業專業性監督。
網絡平臺治理對策建議
鼓勵和推進算法公開。一是推進精準營銷、社交娛樂、個人信息開發、數據挖掘等領域網絡平臺服務算法原理和流程的公開，提高網絡平臺算法的透明度和社會公信力。二是鼓勵網絡平臺服務企業算法代碼公開或算法開源，從社會倫理、法律法規、商業合規、技術安全等角度廣泛接受社會監督，不斷推進算法演進和發展。三是加強對網絡平臺企業算法的公開交流和研討，圍繞加強個人信息保護、提高商業誠信、維護社會公德等需要，共商網絡世界算法創新準則、算法創新禁區、算法治理模式等等。
開展算法應用安全評估和審查。一是面向新聞輿論、精準營銷、服務推薦、個人隱私保護、數據挖掘等領域，建立網絡服務平臺算法試運行前的報備制度，備案算法作用、運行原理、技術實現、應用場景、自評合規性等情況，提高對算法商業應用的監督檢查支撐能力。二是建立算法安全評估制度，從輿論動員能力、個人隱私保護、商業合規性、國家數據主權等角度，加強算法應用前安全測試和影響力評估，部分領域實施算法使用准入管理，提前做好風險預測和技術防範，提高對個人隱私、商業公平、社會安全保障能力。三是針對用戶規模龐大的網絡服務平臺，建立算法安全審查制度，加強網絡平臺核心算法的定期性安全性測試和審查，做好社會影響力評估分析，確保不出現重大負面影響和系統性風險。
加強算法應用動態監測。一是建立算法網絡監測平臺，變革傳統監測治理手段，應用互聯網、大數據、人工智能等技術手段，加強對網絡平臺算法數據採集、運行過程、社會影響等方面的動態監測，強化事中監管，提高對風險預測、防範和處置能力。二是建立算法監督檢查機制，根據企業算法備案內容，加強對企業網絡平臺持續監測和不定期抽查，提高算法備案制度的影響力，確保算法備案制度落到實處。三是支持和鼓勵高等院校、科研院所、行業組織等機構，開展網絡算法第三方監測、評估等方面研究，加快算法社會服務準則等相關規則制定研究，促進網絡平臺算法朝著正確方向發展。
構建行業自律機制。一是以大型網絡平臺為主體，構建網絡平臺服務算法聯盟，圍繞數據挖掘、隱私保護、精準營銷、數據流動等領域，加快制定算法宗旨、應用標準、運行規則、負面清單等相關行業規則，加快形成算法方面的行業共識，提高行業自律能力。二是依託行業聯盟，發佈算法應用行業自律承諾，推動龍頭企業算法應用更加重視個人信息保護、商業誠信和社會公德，形成社會引導和示範效應，帶動全行業算法公信力的整體提升。三是開展行業算法應用發展水平評估，總結行業算法發展成就，查找問題和不足，提高算法社會透明度，提升社會對企業算法應用的信任度。四是加強算法創新行業交流，定期組織相關網絡平臺企業開展算法應用創新研討，共同商討網絡世界算法創新應用模式。
閱讀更多 陸峰博士 的文章
