《史記·淮陰侯列傳》記載：“始常山王、成安君為布衣時，相與為刎頸之交……此二人相與，天下至歡也。然而卒相禽者，何也？患生於多欲，而人心難測也。”
這段話的背景是說，秦末漢初，常山王張耳（後為趙王）與成安君陳餘兩人，在同為平民百姓時為刎頸之交，後兩人翻臉，張耳投奔劉邦。在漢趙於井陘口之戰中，陳餘被張耳一方斬首。人心真是多變難測，無法預料。
古來如此，但今時或不一樣。隨著互聯網大數據時代的到來，以及AI人工智能的深度發展，人心似乎變得越來越有跡可循，越來越容易窺探，甚至量化。
什麼！人心可以用方程、公式、定理來計算？難道量子理論真的已經從物質研究轉向意識思維領域？若真如此，那些民科與玄學痴迷者，必然會拍手稱快，彷彿看到諾貝爾獎在雲端朝他們招手。
其實，人心依舊難測，人性依然善變，只是互聯網的套路越來越深，我們越來越依賴於各種各樣的APP，你的生活習性、興趣愛好，乃至生日，你的親人看不懂，你的朋友記不住，但網絡卻一直幫你存著記著。
筆者大學時代，幾位“哲人”在一起閒聊QQ號的繼承。筆者突然意識到一個問題，古人離世，會留下墓穴、書法、繪畫、雕刻等遺蹟，今人離世之後，現實中的痕跡大概留存不了幾個月，但網絡痕跡，卻似乎並不容易抹除。
也就是說，網絡不死，你便“永生”。
由此可見，一個由網絡組構的虛擬社會，正在逐漸佔據現實。你可能三分活在現實中，七分存在網絡裡。現實中的人或許揣摩不透你，但網絡強大的記憶與分析功能，卻可以將你一覽無遺。
這段時間，Facebook數據門事件沸沸揚揚，報道稱，倫敦數據挖掘和分析公司劍橋分析(Cambridge Analytica)在為特朗普助選期間，濫用了5000萬名Facebook用戶的數據。
很多人看到此事，本能以為是數據洩露。
事實上，Facebook多次抗議媒體使用“數據洩露”這個詞，因為此詞一般是指：黑客攻破網站安全漏洞，用戶賬號密碼、銀行賬戶、手機郵箱等隱私數據被盜。
筆者在此雙手支持Facebook，因為確實不是數據洩露或被盜取，而是被人大搖大擺從Facebok大門走進去拿走的。
2013年，劍橋大學學者、俄羅斯裔美國人Aleksandr Kogan開發了一個app。他向Facebook公司申請：通過Facebook的平臺連接這則app，獲取使用這則應用的用戶的數據。
圖注：俄羅斯裔美國人Aleksandr Kogan
這些數據到底有沒有幫特朗普贏得大選，目前多方各執一詞。但有一點卻比數據洩露更加可怕，那就是對用戶的精準算法，這不光Facebook獨有，而是幾乎所有互聯網公司的基礎商業模式。
所謂精準算法，乃是獲取用戶數據，把用戶背景、工作、收入、個性、愛好等信息儘可能收集完整，此外還從銀行、電信運營商等處購買補充數據，將每個用戶精準“數字化”，導致 “比你自己更懂你”，繼而把這些信息賣給廣告商、需求方等，讓它們可以更精準地投放廣告。
圖注：APP應用算法的一般運行軌跡
算法雖好，但不是萬能的，精準的算法所帶來的弊端越來越顯現出來。
用戶隱私難以保障
筆者曾在某寶上關注一款手機，但未購買，但幾天後，筆者合租同事卻用上了同款手機。筆者頗感詫異，詢問得知，這幾天某寶都在向他推送這款手機的促銷信息，最終促銷價格打動了同事，從而決定購買。
若你在某寶上搜索某商品，此後某寶向你推送該商品的促銷信息，那還可以理解。但筆者從未將手機鏈接發給合租同事，他會為何獲得促銷信息？
後來得知，筆者和室友連著相同的wifi，用著相同的收貨地址，有著相似的年齡與性別，某寶可能將我們視為一家人，或是同一類人，故而筆者看中的東西會推送到他那裡。轉念一想，他瀏覽的東西，是不是也常被推送到筆者手機裡。
細思極恐，背後發涼。
一個男的，如果經常網購女裝，算法就會分析，你是一個異裝癖，還是有異性戀人，還是你需要向女上司或者女下屬、二奶小三送禮。通過你購買的衣服尺碼，可以得出你或你戀人、女上司、女下屬、二奶小三的身體數據，從而推送其他商品。
在互聯網大數據時代，即便你是一個常年人在家中坐的宅男，但你點外賣、網購、瀏覽網站等行為，早已將你的隱私洩露出去。你的網絡形象身份，早已存儲在世界各地的服務器中。
曾有研究者分析了5.8萬名志願者Facebook上的點“贊”，據此推測出了一系列高度隱私的個人特質，包括性取向、種族、政治觀點、個性特徵、智力情況、快樂程度、上癮物的使用、父母離異、年齡和性別。
這種感覺，就像生活在一個圓形監獄中。
圓形監獄是英國功利主義哲學的創立者邊沁（Jeremy Bentham）設計的一個新型監獄，由外圍環形建築和中心瞭望塔組成。
圓形監獄建築結構，令處於中心瞭望塔的獄警，能完全監視到犯人們在環形建築中的一舉一動，因此犯人毫無隱私可言。
圖注：荷蘭佈雷達boschpoort穹頂圓形監獄
算法推送系統也類似於一座圓形監獄，算法是中心瞭望塔，用戶是環形建築中的囚犯。
如果算法推送系統遭到入侵，就如同圓形監獄瞭望塔上來了不速之客，他能以上帝視角看到用戶隱私。一旦此人別有用心，你的隱私也必將暴露出來。輕則隱私被賣，接下來飽受各種保險、賣房、保健的電話轟炸，重則身敗名裂，英明俱毀。
形成信息孤島效應
算法推送可以精準定位用戶偏好，其篩選信息的過程，實則是將用戶喜愛的信息，以不同的策劃包裝方式呈現給用戶。
就如用戶愛吃巧克力，算法便每日送給用戶榛子巧克力、黑糖巧克力、白巧克力、威化巧克力……久而久之，用戶便會營養不良，對食物的認知也僅限於巧克力。
鄭州大學新聞與傳播學院王茜統計今日頭條某段時間時政新聞推送詞頻
美國作家傑姆斯·韋伯斯特 （James G. Webster）在《注意力市場——如何吸引數字時代的受眾》書中提到，搜索引擎、社交網絡、協同過濾系統等在進行信息推薦時，都傾向於把“流行度”（popularity）作為消費指南。
流行即大眾喜好，大眾喜好又加深了算法推送的緯度，久而久之，大眾所接受的信息範圍將越來越窄。
美國芝加哥大學法學教授凱斯.·桑斯坦(CassR.Sunstein)曾提出“信息繭房”問題，“我們只聽我們選擇的東西和愉悅我們的東西的通訊領域……生活在繭房裡的人們……不可能考慮周全，因為他們自己的先入之見將逐漸根深蒂固。”
信息繭房實則是自我設限，用戶就像蠶一樣被自己吐的絲（算法提供的精準信息）禁錮在自己製造的信息繭房裡。
圖注：信息孤島
互聯網時代，用戶往往活在一個由信息交匯而成的虛擬世界裡，單一信息推送，會讓用戶接觸的信息過狹隘，導致視野狹隘、信息封閉、思維僵化，形成信息孤島。而一個人的自我提升與自我完善，需要涉獵不同的領域，聆聽不同的聲音。
用戶成為算法的奴隸
當下，人們普遍患有“手機依賴症”。實際上，人們沉迷的不是手機有多漂亮，而是手機裡各大APP和平臺推送的內容。
徳弗勒（Melvin L. DeFleur）和鮑爾·洛基奇（Sandra Ball-Rokeach）於1976年在《大眾傳播媒介效果的依賴模式》中，提出了“媒介系統依賴論”。
這一理論認為，受眾依賴媒介提供的信息來滿足自身需求，實現理解（自身與社會），確定（行動及互動）方向，獲得（社交和單獨）娛樂三種人生目標。
內容提供商通過精準算法，狠狠抓住了用戶興趣，所推送內容皆以滿足用戶興趣為至上原則，用戶被內容吸引，日漸沉迷，從佔據用戶碎片時間，到佔用用戶工作、學習、交際、運動、思考、閱讀時間，漸漸影響用戶身體健康、思維方式、交際能力，成為算法推送的奴隸。
直接影響用戶的決策
你以為智能算法只是能夠讀懂你的心，不，它還能影響你的想法和行為，甚至左右你的決策，。
眼下站在風口浪尖的Facebook，曾經做過一個有趣的試驗，試驗對象是毫不知情的近69萬名用戶。
試驗內容是，每天向這些用戶推送具有特定情緒傾向的內容。有部分用戶看到的是積極快樂的內容，另一部分用戶看到的則是負面悲傷的內容。
實驗結束時，Facebook監測到這些“小白鼠”用戶的發帖行為：每天看到積極內容的用戶，偏好發佈積極信息，每天看到消極內容的用戶，則更傾向發佈消極消息。
當你作為旁觀者來看這個試驗，會覺得很有趣。但想到自己很可能早已成為“小白鼠”的時候，是不是有種毛骨悚然的感覺。
美國電視劇《紙牌屋》的劇情：木下君和康威為了競選總統，競相使用互聯網大數據，蒐集網民的搜索數據進行分析，引導輿論。
打個比方。
Z要競選總統，他利用算法分析出大量選民的身份地位、利益喜好。於是，Z向商業精英投放減稅政策，商業精英見自己到手收入可能增加，必然支持Z競選；Z又向普通民眾投放增加醫療福利的信息，普通民眾自然拍手稱快，將選票投向Z。
你轉頭看看房間裡的東西，有哪些東西其實是不怎麼用到的，當初購買是不是受到了廣告算法推廣潛移默化的影響。
負面信息的擴大化
這本該歸類於信息孤島效應，之所以拿出來單列一條，是因為它在當下形成的現實問題，極為觸目驚心。
安在（Anzer）安全專家張威的朋友圈，一個名為“風光月霽”的朋友稱：“算法是中性的，但設計算法的人是有價值觀的。如果我在頭條上同事點了個蒼老師和星雲大師的新聞，之後頭條就一定會給你推薦飯島愛相關，而不是推薦弘一法師相關。點進去之後，下次又會推薦波多野結衣。最後滿屏都是這些，緯度和高度都不斷低俗化……”
此說法筆者深以為然。
早些年，筆者在幾個規模較大的視頻平臺，搜索“車禍”“比基尼”“群毆”等關鍵詞，接下來的一段時間，這些平臺推送給筆者的視頻，大多都是性感、慘烈、暴力相關的。
人性都是喜歡觀看陰暗負面的東西，未成年人也一樣，同時各大算法內容提供商也深暗此理。
鄭州大學新聞與傳播學院王茜統計今日頭條某段時間社會新聞推送詞頻
如果一個未成年人，因一次好奇之下，搜索了關於色情與暴力的詞彙，接下來該平臺就會將更多色情與暴力信息推送給他，無疑會對未成年人造成巨大的負面影響。
算法如果只談人性，只以滿足人慾來推送內容，從推廣的角度無疑是成功的，但從社會效應與價值取向的角度來看，必然也存在極大的負面性。
德國女傳播學家伊麗莎白·諾埃勒-諾依曼(E·Noelle-Neumann)曾提出“沉默的螺旋理論（Spiral of Silence Theory）”，該理論認為，一旦用戶認為這種價值取向受到廣泛歡迎，那麼與之相符的聲音就會高漲，與之相反的聲音則會陷入沉默。
此消彼長，陷入惡性循環，社會風氣便會江河日下，令越來越多的人喪失正確的價值追求。內涵段子、抖音、快手等負面信息的盛況，恰如其分地印證了這個理論。
總結與反思：誰來約束算法
歷史更替教訓告誡我們，一個時代太過依賴某樣東西，最終都會因此而衰，正所謂成也蕭何敗蕭何。
可以預見的是，隨著物聯網、人臉識別等技術的快速發展，算法將積累越來越多的用戶數據，它將算計著我們的女人、男人、孩子、父母、鈔票、習慣以及不為人知的興趣嗜好，這些細思極恐的現實問題，讓我們不得不反思 “誰來約束算法”！
2018年5月，歐盟將正式實施《一般數據保護條例》（General Data Protection Regulation，簡稱GDPR），其中第22條規定：“數據主體應該擁有以下權利，即不受僅僅基於自動化處理（包括畫像）所做出決策的制約，如果該決策會為他或她帶來法律後果或其他顯著影響。”
在我國，2018年5月1日將實施《信息安全技術個人信息安全規範》，內容涵蓋個人信息的收集、保存、使用、共享轉讓以及安全事件處置等方方方面。
這些條例與規範的施行，讓我們對個人隱私的保護看到了一絲曙光。未來的時代必是一個多元化的時代，跟不上時代的算法，只會算死這個時代，或者被時代搞死！
閱讀更多 安在信息安全新媒體 的文章
