臉譜如何準確地 決定誰能看到信息時代被禁止的知識之一, 隱藏在不披露協議、貿易保密法和一般的不透明文化背後。東北大學、南加州大學和公益權益倡導組織 Up 的專家進行的最新研究並沒有揭示 facebook 的目標算法是如何工作的, 但確實顯示出了一個令人震驚的結果: 它們似乎顯示出了一個令人震驚的結果提供某些廣告, 包括住房和就業廣告, 其方式與種族和性別定型觀念一致--即使廣告商要求廣告被廣泛、包容的受眾曝光也是如此。
臉譜網上的廣告有兩個基本步驟。首先是廣告商選擇臉譜人群中的某些部分作為目標: 喜歡羽毛球和韋澤的加拿大女性、40歲以上對白人種族滅絕感興趣的曲棍球爸爸等等。第二種是 Facebook, 當它使廣告顯示在某些人的屏幕上, 協調廣告客戶的目標偏好與在給定時間段內通過 Facebook 的應用程序和網頁的人員流。廣告商可以查看哪些受眾最終觀看了廣告, 但從未被允許知道如何選擇這些精確受眾的基本邏輯。
新的研究重點是臉譜上廣告的第二步, 即廣告傳遞的過程, 而不是廣告定位.從本質上講, 研究人員創建的廣告根本沒有任何人口目標, 並觀看 Facebook 將其放置在哪裡。研究人員說, 這一結果令人不安:
關鍵的是, 我們注意到, 儘管有中立的目標參數, 但就業和住房機會的 "真實" 廣告在提供方面出現了嚴重的性別和種族偏差。我們的研究結果顯示了以前未知的機制, 這些機制可能導致潛在的歧視性廣告投放, 即使廣告客戶將其定位參數設置為高度包容性也是如此。
研究人員沒有針對一個人口領域, 而是隻要求他們的廣告到達美國的臉譜用戶手中, 將族裔和性別問題完全留給臉譜的黑匣子。正如臉譜本身告訴潛在的廣告商的那樣, "我們試圖向人們展示與他們最相關的廣告"。該公司的廣告定位黑匣子, 留給自己的設備, 究竟是什麼, 認為有什麼相關性？臉譜的廣告服務算法是否像其他許多算法一樣容易產生偏見？答案不會讓你感到驚訝。
在這項研究的一部分中, 研究人員在北卡羅來納州為從看門人到護士再到律師的各種職位列表投放廣告, 但沒有任何進一步的人口定位選項。研究發現, 在所有其他條件相同的情況下, "Facebook 將我們在木材行業的工作廣告傳遞給72% 的白人和90% 的男性, 向85% 的女性提供超市收銀員職位, 向出租車公司的工作提供75% 的黑人廣告觀眾, 即使我們指定的目標受眾是相同的所有廣告。"人工智能開發者" 列表的廣告展示也扭曲了白色, 而秘書工作的列表絕大多數找到了女性 Facebook 用戶。
儘管 Facebook 不允許廣告商查看廣告觀眾的種族構成, 但研究人員表示, 他們能夠通過交叉引用 Facebook 提供的指標, 特別是用戶所在的地區, 自信地推斷這些數字現場, 在一些州可以與選民登記記錄中的種族數據相互參照。
就住房廣告而言-- Facebook 過去已經證明了這一領域有可能出現歧視性濫用--其結果也嚴重偏向種族。研究人員寫道: "在我們的實驗中, Facebook 向75% 的白人用戶投放了目標廣泛的房屋銷售廣告, 向人口平衡程度更平衡的受眾展示了租賃廣告。在其他情況下, 研究發現, "Facebook 將我們的一些住宅廣告提供給85% 以上的白人用戶, 而他們將其他廣告提供給超過65% 的黑人用戶 (取決於廣告的內容), 儘管廣告的針對性是相同的。
即使在簡單、相當無聊的股票照片的情況下, 臉譜似乎也在算法上強化了陳規定型觀念, 這表明臉譜不僅會自動掃描網站上的圖像並將其分類為與男性或女性更 "相關", 而且會改變誰的形象看到廣告的基礎上, 它是包括一張圖片, 比如說, 足球或一朵花。這項研究採用了一些陳規定型的性別圖像--軍事場景和陳規定型男性方面的 MMA 戰鬥, 一種陳規定型的女性玫瑰--並將其改變, 使其肉眼看不到 (標記為圖像透明)"阿爾法" 頻道, 技術術語)。然後, 他們在沒有任何基於性別的目標的廣告中使用這些無形圖片, 但他們發現 Facebook, 大概是在用軟件分析圖片後, 就如何提供這些圖片做出了逆行、基於性別的決定: 帶有陳規定型大男子主義圖像的廣告主要是向男人展示的, 儘管男人們不知道他們在看什麼。研究的結論是, "臉譜有一個自動化的圖像分類機制, 用來引導不同的廣告走向用戶群體的不同子集"。換句話說, 這種偏見是在臉譜的端, 而不是在旁觀者的眼中。
這份報告是在臉譜不方便的時候發佈的, 臉譜現在面臨著住房和城市發展部的收費,因為它有可能讓廣告商非法將某些群體排除在外。儘管研究謹慎地指出, "我們的研究結果只說明我們的特定廣告是如何投放的 (即我們不能說一般的住房或就業廣告是如何投放的)", 但它仍然得出結論, "即使在一組小廣告上, 我們也會觀察到明顯的偏差這表明現實世界中的住房和就業廣告可能會經歷同樣的命運。換句話說, 即使在沒有頑固的房東的情況下, 廣告平臺本身也顯得天生的偏見。
臉譜網發言人提出了以下評論:
我們反對任何形式的歧視。我們對廣告定位工具進行了重要更改, 並知道這只是第一步。我們一直在研究我們的廣告投放系統, 並讓行業領袖、學者和民權專家參與到這個問題上--我們正在探索更多的變化。
在這一點上, 這是一個熟悉的說法, 也很可能不會讓那些只想知道自己會得到和其他人一樣的機會的人放心, 即使是在無處不在的廣告背景下。對有針對性廣告的舊道歉通常是, 這對消費者是一種好處, 省去了他們 "不相關" 的廣告, 而是為他們提供了瀏覽與他們 "相關" 的商品和服務的機會。這種淺薄的推理忽略的是, 關於針對性的決定可以自我強化;認為女性對秘書工作更感興趣是愚蠢的, 因為她們不斷點擊秘書廣告, 而不是因為臉譜會向她們展示秘書廣告。
閱讀更多 bellezza貝萊姿 的文章
