近年來，快手、抖音等平臺大規模發佈招聘信息，面向全國新增招聘3000名內容審核編輯崗位，將目前的審核團隊從2000人擴大至5000人。今日頭條在去年也表示，要將運營審核隊伍擴大增至10000人。不光是在中國，2018年Facebook創始人扎克伯格在接受媒體採訪時也表示，公司將會有20000人致力於網絡安全和內容審查的工作。
很多人認為內容審核員有著輕鬆的工作，但其實內容審核並不像一般人們認為的只有鑑黃這一種。更多時候，他們所面對的是黃色、暴力、涉恐、等高敏感度的信息，更忍受著長期精神和身體上的壓力。然而，內容安全審核的路程才剛剛開始。
人工智能可以緩解內容審核壓力麼？
當前，人工智能技術的發展為各行各業帶來便利。面對專一性較強的工作，AI可以在高準確度、高效率和持久性上完勝人類。然而，它們很難提升內容審核的精確度。以鑑黃師為例，人工智能的鑑定只能將海量視頻和圖片中的疑似黃色內容篩選出來，它可以將審核範圍從無邊無際中圈出一個範圍，但並不能像人一樣理解每張圖片中內容的準確含義。
比如一張衣著暴露的圖片，如果整張拿給AI去識別，它可以能認出這張圖有安全隱患。然而，如果將圖片切成數份並打亂順序呢？如果是人，大腦就會立即思考，並還原出這張照片的原貌，而AI還不行。
雖然AI的審核準確度不如人類，但是隨著內容生產數量的驟增、用戶體驗及負面事件風險提高以及審核標準嚴苛細化，各種各樣非標準化審核管理系統猶如一塊巨石壓得審核工作者喘不過氣。很多內容的含義並不能用標籤化的方式來判斷，這是人工審核容易犯難的地方，而除了鑑別各類內容，人工審核還不得不應對雜亂無章的審核管理體系，這對於加快人工審核速率沒有一點幫助。針對這一問題，業內的企業紛紛提出自己的想法，對內容審核監測做出了提升。
例如去年12月，Facebook宣佈撥款1.3億美元建獨立“刪帖法庭”。作為美國社交網絡巨頭Facebook除了爆出不計其數的侵犯隱私醜聞之外，還遭到了對於用戶內容缺乏監管、給社會和青少年造成不良影響的批評，Facebook開始採取各種措施，監管內容，其中一個措施是設立一個類似“刪帖法庭”的內部機構，來決定哪些用戶言論或者內容必須刪除或可以保留。除此之外，比如國內目前內容審核技術比較突出的極鏈科技Video++，也推出了全棧式智能內容安全審核引擎神眼系統，都在為人類審核員進行減負。
更多平臺需要高效的內容審核機制
不光是互聯網企業自身，包括公司化運營的微信公眾號、微博、抖音大V們，都需要專門的內容審核服務。從年初人民網開始暴漲開始，內容審核就已經開始受到重視，人民網公告顯示，2018年第三方內容審核業務收入同比增長約166%。未來幾年，視頻、AR/VR內容會隨著5G發展而爆發，內容審核的需求也必將跟著水漲船高，客戶會越來越多，市場空間和規模會越來越大。不光是互聯網企業自身，包括公司化運營的微信公眾號、微博、抖音大V們，都需要專門的內容審核服務。除了少數大型互聯網可以自建團隊之外，其它的中小企業，都只能靠第三方審核服務，大量的需求催生了一個新行業：第三方內容審核服務。這些第三方機構看到了問題背後的商機，研發出內容審核風控系統，專門提供給內容相關企業。不過，第三方內容審核的進入壁壘較高，包括技術壁壘、人才壁壘、管理壁壘。
除了少數大型互聯網可以自建團隊之外，其它的企業，都只能靠第三方審核服務，大量的需求催生了一個新行業，那就是第三方內容審核服務。這些第三方機構看到了問題背後的商機，研發出內容審核風控系統，專門提供給內容相關企業。
在今天的互聯網輿論環境下，不同的平臺為自己制定的審核標準也不同，有的嚴格，有的寬泛，這是各家平臺的權利。但隨著平臺的發展，僱傭和培訓人員的速度很難跟上平臺的發展步伐，網站上的內容可以在一天中的任何時間發佈，這意味著內容審查人員必須24小時不間斷工作，但這樣的工作時間，可能無法保證審核的精確度。即使擁有一個強大的內容審查團隊，也很難進行無偏見審核，這也是AI內容審核開始發揮作用的時候。未來，內容審核系統的升級，不光是品牌驅動、產品需求的剛性體現，也更應該去努力滿足社會需求。
閱讀更多 AiChinaTech 的文章
