近年來，互聯網用戶對信息獲取以及內容承載形式的需求日益多元化，新聞資訊、短視頻、影視綜藝、音頻、動漫、網絡小說等內容形態以不同形式到達用戶的智能設備，尤其是視頻相關的內容呈現了越來越高的用戶粘性。各大互聯網內容平臺為了吸引網民眼球，快速跑馬圈地，提高用戶在線時長，免不了出現劣質內容“野蠻生長”，內容違規問題日漸凸顯。
為此，國家相關管理機構相繼出臺一系列相關規定，對互聯網傳播的內容及主體責任進行管理、規範與明確。中國網絡視聽節目服務協會2017年7月發佈《網絡視聽節目內容審核通則》，禁止短視頻中出現紋身、色情、暴力等不良行為；隨後網信辦等四部委又啟動了“劍網2018”打擊網絡侵權盜版專項行動；再到2019年互聯網信息辦公室、文化和旅遊部、國家廣播電視總局聯合印發了《網絡音視頻信息服務管理規定》，進一步規範音視頻信息傳播秩序。近期推出的《網絡短視頻平臺管理規範》中明確規定：平臺上播出的所有短視頻均應經內容審核後才可播出，其內容審核的範圍包括節目的標題、簡介、彈幕、評論等內容。
在日趨嚴格的法律、法規要求之下、在網絡冗雜的信息環境之中，信息內容安全和輿論導向成為內容生產者、平臺運營方安全生產的重中之重，去偽存真的風險防控（內容審核）也顯得更為重要了。在實踐中，部分內容平臺方選擇招聘大量的審核人員，通過人工審核的方式應對國家出臺的各種政策法規的內容審核要求，但隨著內容平臺的擴張和海量UGC內容的爆炸式增長，全量內容的人工審核必然會導致審核效率的降低或審核質量的下降，存在潛在運營風險。同時，各項規定和標準持續更新，人工主觀判斷標準難以統一，針對同一內容不同審核人員可能產出不同的審核結果，極易出現誤判或者漏判的情況，亟需通過技術手段統一審核標準、加快審核效率並能適應不斷變化的內容審核需求，以高效、穩定的滿足內容安全相關工作要求。
在此需求背景下，極鏈科技Video++針對目前行業面臨的主要問題，響應政策號召，基於人工智能技術，推出全棧式智能內容安全審核引擎——神眼內容安全審核系統。用AI技術幫助平臺方減輕內容審核壓力、降低內容審核成本並提高內容審核效率，為客戶提供一站式、開箱即用的智能內容安全解決方案。
神眼系統讓內容審核更規範
神眼內容安全審核系統基於多種自研的SOTA的深度學習算法，面向視頻平臺、社交網站、網絡社區、融媒體等內容運營群體，提供包括視頻、文本、圖像等泛內容的涉黃、暴力、政治敏感等風險內容的識別，高效遏制風險、全面釋放審核人力、提高審核效率、淨化網絡環境、提升用戶體驗。
產品核心功能包括：智能鑑黃、智能鑑暴、政治敏感人物識別、公眾人物識別、違禁品識別、廣告檢測、圖像質量檢測、logo識別、旗幟識別、OCR審核等。該系統支持本地私有化部署，獨立的運營平臺滿足精細化運營需求，系統提供“三次審核”流程設置，通過“機器+人工”雙重保障審核準確率高於行業平均水平，為企業構建牢不可破的內容安全防禦體系。
六大核心優勢 直擊行業痛點
面對海量的內容信息，神眼系統直擊內容安全領域的痛點問題，大規模降低人工審核人員投入，降低運營人力成本，同時提供更為精準、高效的AI內容審核服務，為網絡形成安全合法的良性生態循環提供智能化助力。
多類型的內容載體：支持文本、圖片、視頻多維度的審核服務，幷包含豐富的標籤，精確匹配各種審核需求；
算法模型精度行業領先：基於極鏈自有的海量數據資源，自研AI算法訓練得到的審核模型，準確率可達98%，行業領先；
智能化自定義設置：支持自選審核維度，自定義審核強度、自定義圖片/文本黑庫和敏感人物名單；
緊跟熱點：同步辨識敏感和普通人物，一旦普通人物變為敏感人物，可快速屏蔽相關視頻；
易用性強：可視化審核數據統計後臺，功能全面，零學習門檻；
靈活部署：根據客戶項目需求不同應用場景，支持私有化集群與單機部署方式，並提供API接口方便與原有業務系統集成。
人工智能技術加持 精準定位內容風險
神眼內容安全審核系統基於海量特徵樣本的多維度內容識別技術，採取全序列採樣識別，支持軌跡流跟蹤，有效提升視頻抽幀的質量和檢測效率。該技術能為視頻、圖片、文本等場景提供高效率的深度學習算法訓練和算法推理準確度保證。極鏈科技自研的端到端的分佈式VideoLab深度學習平臺支持Caffe 、PyTorch、TensorFlow、MXNet等框架做為訓練、推理後端，對於已建設AI相關推理平臺與計算中心的客戶，也可提供ONNX格式的模型，充分保護用戶已有投資；同時，依據不同客戶對推理精度與效率的訴求，可結合知識蒸餾，雙精度、單精度等混合精度模型的方式，提供定製化推理部署服務。通過本系統對政治人物、色情、暴恐、旗幟等內容的自動化識別、審核，大幅度降低內容風險，可減少90%以上人工審核成本。
政治人物審核：使用自主研發的2D、3D等網絡及人臉識別、OCR技術對視頻、圖片中出現的政治、敏感、公眾人物人臉、文字等內容進行精確檢測、質量評估及識別；用戶在使用中可自行增加或減少人臉黑白名單庫。
色情審核：使用自主研發的檢測加識別網絡配合Attention機制對視頻、圖片中出現的色情、裸露、性感等內容進行識別，細分為近20個標籤。
旗幟標誌審核：使用自主研發的目標檢測及分割等網絡對視頻、圖片中出現的國旗、地圖、及反動組織（如臺獨、港獨、藏獨）等標誌進行識別。
暴恐審核：使用自主研發的2D、3D目標檢測及動作識別等網絡對視頻、圖片中出現的血腥、暴力、危險武器等內容進行精確識別。
文本審核：通過OCR引擎對視頻、圖片中文本內容的檢測與提取，可實現非結構化內容中的文本審核。文本審核系統使用了基於敏感詞擴展檢索、同義詞識別、灌水識別、語義分類的多算法模塊級聯審核方案，不僅能夠檢測識別敏感詞及其多種字面變形如括音字混合變形、諧音變形、拼音縮寫變形、前後鼻音及平翹舌音變形、反讀變形、填字變形、缺字變形、拆解字變形等，而且同義詞識別算法、灌水識別算法、基於深度學習的語義分類算法能夠提供更進一步的文本審核功能。
極鏈科技 Video++ 自成立以來始終專注於消費級視頻AI技術研究與商業化落地應用實踐。經過多年的技術迭代升級，積累了視頻識別、圖像識別、文本識別等在內的全方位、業界領先人工智能技術，沉澱了包括VideoAI金目視頻內容結構化引擎、頑石OS視聯網操作系統、VideoNet視頻AI數據集等在內的，從數據到算法到平臺產品的完整產品與技術體系。
目前，神眼內容安全審核系統已全面對外開放，極鏈期待與更多企業攜手並進，共同努力打造更加安全健康的網絡環境。
閱讀更多 AiChinaTech 的文章
