據外媒最新消息，日前，3000多名在印度外包巨頭高知特（Cognizant）公司擔任Facebook內容審核員的美國員工發起了一宗集體訴訟，Facebook和高知特被列為被告方，這些內容審核員要求對這份工作引發的精神損害進行經濟補償。
這次的事件其實早有預兆，早在去年的9月25日，就有一位前Facebook合同工向公司發起訴訟，指控在審查了平臺上那些令人不適的圖片後遭受精神創傷的內容版主沒有獲得公司適當的保護。訴訟稱，Facebook的合約審核員每天面臨著“數千份與兒童性虐待、強姦、酷刑、人獸交、斬首、自殺和謀殺有關的視頻、圖像與直播廣播”。
這是我們所不能忽視的，隨著社交媒體的普及，Facebook、推特和Youtube這樣的平臺上確實湧現出了越來越多的違規內容。這些違規內容給社會造成了極大的威脅與危害，尤其是影響到了青少年網絡用戶身心的健康成長。
在過去幾年中，輿論對於Facebook和推特、Youtube等社交媒體對於用戶上傳的違規內容放任不管進行了抨擊，隨後社交媒體公司開始在全世界僱傭大量的內容審核員，對涉嫌違規的用戶內容進行審查。但是內容審核員這個群體很快就出現了一系列問題：比如工資低，勞動負荷過大，另外還有因為長期接觸有害內容而引發了心理問題的。
這一系列的問題都揭示了一件事——人工智能的審核，需要被提上日程了。目前大部分視頻公司都是採取技術加人工的模式，技術在這裡面的作用主要是清除明顯違規的有害內容，而一些模糊的內容，則還是需要通過人工的方式進行。
雖然不能完全替代，但人工智能審核的意義卻是非常重大的。假設有一萬個視頻，如果是純人工的話，這些視頻全部都要看；而技術加人工的話，技術能確認9990個視頻，人工只需要對剩餘10個視頻進行確認即可——這對於公司而言，大大降低了成本，因為以前或許需要配備上百個審核人員，現在或許只需要配備十幾個就夠了。
在此背景下，極鏈科技Video++針對目前行業面臨的主要問題，響應政策號召，結合人工智能技術，打造全棧式智能內容安全審核引擎——神眼系統，用AI技術幫助平臺方減輕內容審核壓力、降低內容審核成本，為客戶提供一站式的智能內容安全解決方案。
一、神眼系統讓內容審核更規範
神眼內容安全審核系統基於先進的深度學習算法，面向視頻平臺、社交網站、網絡社區、融媒體等客戶群體，提供包括視頻、文本、圖像等泛內容的涉黃、暴力、政治敏感等風險內容的識別，高效遏制風險、全面釋放審核人力、提高審核效率、淨化網絡環境、提升用戶體驗。
產品核心功能包括：智能鑑黃、智能鑑暴、政治敏感人物識別、公眾人物識別、違禁品識別、廣告檢測、圖像質量檢測、logo識別、OCR審核等。該系統支持本地私有化部署，獨立的運營平臺滿足精細化運營需求，併為客戶配套三次審核流程，機器+人工雙重保障審核準確率高於行業平均水平，為企業構建牢不可破的安全防禦體系。
二、六大核心優勢 直擊行業痛點
面對海量的互聯網信息，神眼系統直擊內容安全領域的痛點問題，大批量解放人工審核，提供更為精準、高效的AI內容審核服務，為網絡形成安全合法的良性生態循環提供智能化助力。
多維度的內容審核：支持文本、圖片、視頻多維度的審核服務，幷包含豐富的標籤，精確匹配各種審核需求；
模型精度行業領先：獨特AI算法，海量數據訓練的審核模型，準確率可達98%，行業領先；
智能化自定義設置：支持自選審核維度，自定義審核鬆緊度、自定義圖片/文本黑庫和敏感人物名單；
緊跟熱點：同步辨識敏感和普通人物，一旦普通人物變為敏感人物，可快速屏蔽相關視頻；
易用性強：可視化審核數據統計後臺，功能全面，零學習門檻；
靈活部署：根據客戶項目需求不同應用場景，支持私有化部署方式。
三、人工智能技術加持 精準擊破內容風險
神眼內容安全審核系統基於海量特徵樣本的多維度內容識別技術，採取全序列採樣識別，支持軌跡流跟蹤，有效提升視頻抽幀的質量和檢測效率。該技術能為視頻、圖片、文本等場景提供強大的深度學習算法和算力保證，對政治人物、色情、暴恐、旗幟等內容進行識別審核，大幅度降低內容風險，可減少90%以上人工審核成本。
經過多年的技術迭代升級，極鏈科技Video++構築了技術壁壘，實現了行業領先，擁有視頻識別、圖像識別、文本識別等人工智能技術，沉澱了包括VideoAI金目視頻內容結構化引擎、頑石OS視聯網操作系統、VideoNet視頻AI數據集等一系列的基礎平臺，專注消費級視頻AI技術研發和商業應用。
目前，神眼內容安全審核系統已全面對外開放，極鏈期待與更多企業攜手並進，共同努力打造更加安全健康的網絡環境。
閱讀更多 AiChinaTech 的文章
