“內容為王”漸成趨勢，帶動直播、短視頻等UGC平臺迎來爆發式成長，健康和諧的內容生態也隨之成為直播行業生存發展的關鍵。
10月10日，虎牙公司與騰訊雲、騰訊安全共同宣佈成立安全聯合實驗室，雙方將融合騰訊在雲服務器底層算力、內容風險識別、反欺詐和威脅情報等方面的技術能力優勢與虎牙公司在內容風控、安全攻防和直播業務場景的實戰積累，圍繞AI安全應用、黑產打擊、安全攻防、數據標註、人工審核等多個領域展開技術交流與業務合作，共同建設AI智能審核平臺及安全攻防機制，並以AI安全能力的應用擴容，在虎牙直播平臺打造全方位安全攻防和更精準的內容審核體系，為健康的網絡直播內容生態建設提供參考樣本和前沿解決方案。虎牙公司高級副總裁李萌、虎牙公司內容風控副總裁張二虎、騰訊雲副總裁魏偉、騰訊安全副總裁黎巍等領導嘉賓出席實驗室掛牌儀式。
(虎牙公司攜手騰訊雲、騰訊安全成立安全聯合實驗室)
“強大算力+AI審核+安全攻防”助力直播內容生態優化
疫情催化之下，在線業務按下發展“快進鍵”，直播平臺流量價值的日趨攀升，在一定程度上也讓黑灰產看到了更大的“商機”。而伴隨著直播業務內容生態圈的縱深發展，如何有效預防黑灰產帶來內容風險與威脅，成為直播行業健康持續發展的重要基石。如騰訊安全副總裁黎巍所言：“隨著包括生活服務、遊戲、視頻、直播等在內的泛互聯網行業利益點的不斷延伸，內容安全能力已成為高度重視用戶體驗的泛互領域企業獲取用戶黏性的關鍵所在。”
結合多年來直播行業內容生態建設經驗，虎牙公司高級副總裁李萌認為，平臺在不斷突破自身的安全技術能力，持續優化審核規範與制度基礎上，與擁有強大底層算力和成熟安全技術的廠商合作，會成為直播行業治理優化內容生態的有效途徑。基於此思路，騰訊雲、騰訊安全與虎牙公司融合虎牙全面上雲及多元破圈發展的短、中、長期安全需求，開放各自優勢、能力與資源，在AI安全應用、黑產打擊、安全攻防、數據標註、人工審核等多個領域展開創新研究。
一方面，作為國內頭部直播平臺之一的虎牙公司將秉承對違規內容和欺詐事件“0容忍”的態度，基於其團隊堅守內容審核及內控合規一線的多維度內容管理體系，結合自研的“AI智能識別、人工審核和網絡志願者”三位一體模式，主動協助公安機關偵破涉疫情欺詐、刷單欺詐、冒充客服欺詐、遊戲裝備交易欺詐等多類黑灰產案件。為平臺安全及內容風控體系的升級打造提供實戰佐證與場景示範。
(虎牙公司內容風控副總裁張二虎分享虎牙平臺內容風控體系)
另一方面，騰訊則將依託20餘年來積累的業務安全運營能力及黑灰產對抗經驗，全面開放基於騰訊雲星星海SA2雲服務器底層算力和騰訊安全“AI+大數據”的內容風控安全技術，針對合作場景持續優化內容識別能力，從而為虎牙公司營造更為安全的內容生產環境。並共同以合作成果反哺行業發展，促進直播行業平臺安全與內容風控的創新實現。
覆蓋內容風險識別全場景，為直播行業提供前沿解決方案
在文本、圖片、音頻、視頻等內容井噴式湧現的富媒體時代，內容風控能力已成為內容平臺的一項核心競爭力。在《網絡信息內容生態治理規定》實施以來,虎牙公司已著力完善內容風控技術、加強主播規範教育、提高平臺自審與處罰力度,為網絡直播環境淨化與良性內容生態建設貢獻力量。在風控技術層面，虎牙公司自主研發業務風險識別系統，於聲音、畫面、文本維度，發現、預警和處置違規信息，能夠對“方言性”普通話實現精準轉譯、畫面內容實現全面識別、惡意文本內容進行“毫秒級”反應攔截。在人工內容審核層面，虎牙公司的內容審核團隊始終保持7*24小時在線，通過審核+複查+質檢三道審查規範，與機器審核結合，實現最優運轉。同時，虎牙公司從17年開始組織平臺用戶成立了一支 “虎牙志願者”團隊，共同推動平臺生態健康發展，目前團隊規模已逾十萬人，共反饋百萬條線索且有效率超50%，進一步提升了平臺的審核效率。該項創新項目也獲得由中國演出行業協會頒發的“中國網絡直播行業2018年度創新大獎”。
而騰訊雲首款自研的星星海服務器結合虎牙公司在雲上業務的具體場景，在性能、能效、安全特性、可靠性等層面持續優化，同時與騰訊雲虛擬化等優勢軟件技術充分協同，為直播業務的內容審核提供了強大的算力支撐。據瞭解，星星海服務器採用騰訊雲與AMD在其最新ROME平臺下深度定製的CPU，實現行業最優單核性能和最優單核TCO。根據測試，基於星星海的雲服務實例綜合性能提升35%以上，其中視頻處理速度提升40%，圖形轉碼得分提升35%，Web服務頁面QPS提升高達152%。
針對各大內容社區的合規及風險識別需求，騰訊安全以AI算法為核心，以海量互聯網數據為基礎，打造出的騰訊安全天御內容風控系統不僅能通過庫、模型、賬號等對內容風險進行多維度識別，還能通過在線訓練平臺主動挖掘業務數據，經由攻防演練極大地提升模型的優化效率。其中針對違規視覺內容的識別能力是騰訊優圖實驗室通過海量數據訓練得到的AI識別能力，能夠通過特徵提取、標籤預測、細粒度識別，精準識別色情、暴力等內容。目前，騰訊安全天御已打通了音視頻、文本及圖片等內容風控的全鏈路。
(騰訊安全天御內容安全框架示意圖)
搭載騰訊雲和微信小程序，騰訊安全天御內容風控系統已服務了超過5萬家開發者，行業滲透率達90%，審核效率提升20倍以上，為不同規模的企業降低了20%-80%的成本，業務健康程度達到99.89%，守護了數萬家客戶的內容安全。
未來，隨著VR、AR、5G等新技術的落地，內容生態建設將面臨著更為多元的複雜場景。騰訊雲、騰訊安全和虎牙公司將持續深化合作，向直播行業合作伙伴輸出內容生態建設的攻防經驗和AI算法模型能力，致力為直播行業和內容社區打造內容新生態提供更多實戰成果與參考。
