脸谱如何准确地 决定谁能看到信息时代被禁止的知识之一, 隐藏在不披露协议、贸易保密法和一般的不透明文化背后。东北大学、南加州大学和公益权益倡导组织 Up 的专家进行的最新研究并没有揭示 facebook 的目标算法是如何工作的, 但确实显示出了一个令人震惊的结果: 它们似乎显示出了一个令人震惊的结果提供某些广告, 包括住房和就业广告, 其方式与种族和性别定型观念一致--即使广告商要求广告被广泛、包容的受众曝光也是如此。
脸谱网上的广告有两个基本步骤。首先是广告商选择脸谱人群中的某些部分作为目标: 喜欢羽毛球和韦泽的加拿大女性、40岁以上对白人种族灭绝感兴趣的曲棍球爸爸等等。第二种是 Facebook, 当它使广告显示在某些人的屏幕上, 协调广告客户的目标偏好与在给定时间段内通过 Facebook 的应用程序和网页的人员流。广告商可以查看哪些受众最终观看了广告, 但从未被允许知道如何选择这些精确受众的基本逻辑。
新的研究重点是脸谱上广告的第二步, 即广告传递的过程, 而不是广告定位.从本质上讲, 研究人员创建的广告根本没有任何人口目标, 并观看 Facebook 将其放置在哪里。研究人员说, 这一结果令人不安:
关键的是, 我们注意到, 尽管有中立的目标参数, 但就业和住房机会的 "真实" 广告在提供方面出现了严重的性别和种族偏差。我们的研究结果显示了以前未知的机制, 这些机制可能导致潜在的歧视性广告投放, 即使广告客户将其定位参数设置为高度包容性也是如此。
研究人员没有针对一个人口领域, 而是只要求他们的广告到达美国的脸谱用户手中, 将族裔和性别问题完全留给脸谱的黑匣子。正如脸谱本身告诉潜在的广告商的那样, "我们试图向人们展示与他们最相关的广告"。该公司的广告定位黑匣子, 留给自己的设备, 究竟是什么, 认为有什么相关性？脸谱的广告服务算法是否像其他许多算法一样容易产生偏见？答案不会让你感到惊讶。
在这项研究的一部分中, 研究人员在北卡罗来纳州为从看门人到护士再到律师的各种职位列表投放广告, 但没有任何进一步的人口定位选项。研究发现, 在所有其他条件相同的情况下, "Facebook 将我们在木材行业的工作广告传递给72% 的白人和90% 的男性, 向85% 的女性提供超市收银员职位, 向出租车公司的工作提供75% 的黑人广告观众, 即使我们指定的目标受众是相同的所有广告。"人工智能开发者" 列表的广告展示也扭曲了白色, 而秘书工作的列表绝大多数找到了女性 Facebook 用户。
尽管 Facebook 不允许广告商查看广告观众的种族构成, 但研究人员表示, 他们能够通过交叉引用 Facebook 提供的指标, 特别是用户所在的地区, 自信地推断这些数字现场, 在一些州可以与选民登记记录中的种族数据相互参照。
就住房广告而言-- Facebook 过去已经证明了这一领域有可能出现歧视性滥用--其结果也严重偏向种族。研究人员写道: "在我们的实验中, Facebook 向75% 的白人用户投放了目标广泛的房屋销售广告, 向人口平衡程度更平衡的受众展示了租赁广告。在其他情况下, 研究发现, "Facebook 将我们的一些住宅广告提供给85% 以上的白人用户, 而他们将其他广告提供给超过65% 的黑人用户 (取决于广告的内容), 尽管广告的针对性是相同的。
即使在简单、相当无聊的股票照片的情况下, 脸谱似乎也在算法上强化了陈规定型观念, 这表明脸谱不仅会自动扫描网站上的图像并将其分类为与男性或女性更 "相关", 而且会改变谁的形象看到广告的基础上, 它是包括一张图片, 比如说, 足球或一朵花。这项研究采用了一些陈规定型的性别图像--军事场景和陈规定型男性方面的 MMA 战斗, 一种陈规定型的女性玫瑰--并将其改变, 使其肉眼看不到 (标记为图像透明)"阿尔法" 频道, 技术术语)。然后, 他们在没有任何基于性别的目标的广告中使用这些无形图片, 但他们发现 Facebook, 大概是在用软件分析图片后, 就如何提供这些图片做出了逆行、基于性别的决定: 带有陈规定型大男子主义图像的广告主要是向男人展示的, 尽管男人们不知道他们在看什么。研究的结论是, "脸谱有一个自动化的图像分类机制, 用来引导不同的广告走向用户群体的不同子集"。换句话说, 这种偏见是在脸谱的端, 而不是在旁观者的眼中。
这份报告是在脸谱不方便的时候发布的, 脸谱现在面临着住房和城市发展部的收费,因为它有可能让广告商非法将某些群体排除在外。尽管研究谨慎地指出, "我们的研究结果只说明我们的特定广告是如何投放的 (即我们不能说一般的住房或就业广告是如何投放的)", 但它仍然得出结论, "即使在一组小广告上, 我们也会观察到明显的偏差这表明现实世界中的住房和就业广告可能会经历同样的命运。换句话说, 即使在没有顽固的房东的情况下, 广告平台本身也显得天生的偏见。
脸谱网发言人提出了以下评论:
我们反对任何形式的歧视。我们对广告定位工具进行了重要更改, 并知道这只是第一步。我们一直在研究我们的广告投放系统, 并让行业领袖、学者和民权专家参与到这个问题上--我们正在探索更多的变化。
在这一点上, 这是一个熟悉的说法, 也很可能不会让那些只想知道自己会得到和其他人一样的机会的人放心, 即使是在无处不在的广告背景下。对有针对性广告的旧道歉通常是, 这对消费者是一种好处, 省去了他们 "不相关" 的广告, 而是为他们提供了浏览与他们 "相关" 的商品和服务的机会。这种浅薄的推理忽略的是, 关于针对性的决定可以自我强化;认为女性对秘书工作更感兴趣是愚蠢的, 因为她们不断点击秘书广告, 而不是因为脸谱会向她们展示秘书广告。
閱讀更多 bellezza貝萊姿 的文章
