中国最大的两个短视频产品快手和抖音，世界最大的社交网络 Facebook，最近都来到了舆论风波的正中心。
凭借强大的推荐算法和用户贡献内容（UGC），这三家公司积累了海量用户，但也都遇到了内容审核的难题。三家公司大佬纷纷进行道歉或受到主管政府部门的质询。
经过这几个事情，我们也了解到了AI到底是什么，AI的能力又是什么样的。
1AI 包含人的价值取向甚至是偏见
今年 3 月，央视报道过快手平台上存在大量未成年妈妈等低俗内容，以及今日头条的广告问题之后，两家公司的 CEO 宿华和张一鸣相继发布道歉信。
前天晚间，今日头条 CEO 张一鸣还在道歉信中宣布永久关停内涵段子 App，承诺将“正确的价值观融入技术和产品”，同时将运营审核团队规模从现在的 6000 人扩大到 10000 人。
新招募的这些人员，除了在运营层面给公司大幅增加开支之外，还意味着快手、今日头条、抖音等社区型产品在 UGC 内容审核上还不能完全依赖它们所擅长的 AI 算法。“人工审核” 仍然占据非常重要的地位。
对于 AI 在 UGC 社区内容审核中所扮演的角色，快手 CEO 宿华在道歉信中表达的观点更为直接：
（快手）社区运行用到的算法是有价值观的，因为算法的背后是人，算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷。
换句话说，快手的推荐算法包含并反映出了这家公司在短视频内容上的价值判断和平台偏好。内涵段子、抖音等头条系的 App 也是同理。
2AI 快速吸引用户也让平台更容易被监管
依靠能够揣摩用户喜好的推荐算法，快手自转型短视频以来，累计吸引了超过 7 亿的注册用户，日活用户规模达到 1.2 亿。而比今日头条更早上线的内涵段子，在早期成了最主要的下载来源。抖音从去年快速崛起之后，最新的日活数据已经增长到 9000 万。
成立于 2004 年的 Facebook，虽然总用户增长放缓，但月度活跃用户已经涨到了 20 亿，相当于全球互联网用户的 50%。
随着海量用户的加入，这些社交平台上的内容也开始变得五花八门。
快手上各种惊奇搞怪的表演，在早期给快手短视频贴上了 low 的标签。而抖音在强运营策略的主导下，依靠海草舞、各种运镜、旅游风光等内容，形成了自己的风格，同时也吸引到更多的内容贡献者。Facebook 用户的时间线上，则充斥着真真假假的时下新闻。
由于推荐算法 7*24 不间断运行，用户很容易因为“刷上瘾”而忘记时间。
就国内而言，在国家广电总局眼中，快手、抖音这些“全民级”内容平台的价值判断和导向是不符合要求的，所以才有了这次针对短视频和新闻资讯类产品的集中整顿。
在道歉信中，张一鸣将此次被整顿的深层原因归结为“‘四个意识’淡薄、社会主义核心价值观教育缺失、舆论导向存在偏差。”宿华则承诺要“重整社区运行规则，将正确的价值观贯穿到算法推荐的所有逻辑中”。
但从技术层面看，目前的 AI 算法还很难理解“四个意识”和社会主义核心价值观的真正含义。社区运行规则和内容审核策略的调整还是要借助相当多的人力。
3内容审核之外，更难的是持续让用户信任
在内容审核上，月活用户数超过 20 亿的 Facebook 面临的挑战更加严峻。
首先是不同国家的语言和文化差异，一则带有煽动性的仇恨言论很可能成为审核机制的漏网之鱼，在社交网络里肆意传播。
在昨天举行的美国国会听证会上，Facebook 创始人扎克伯格回答问题时表示，利用机器学习工具来自动监测和处理仇恨言论要 5-10 年后才会变成现实。
这无疑是对 AI 在硅谷乃至整个科技界的莫大冲击。与此同时，也让我们更加清楚了解了人工智能现阶段的能力边界。
閱讀更多 億江科技 的文章
