近年来，互联网用户对信息获取以及内容承载形式的需求日益多元化，新闻资讯、短视频、影视综艺、音频、动漫、网络小说等内容形态以不同形式到达用户的智能设备，尤其是视频相关的内容呈现了越来越高的用户粘性。各大互联网内容平台为了吸引网民眼球，快速跑马圈地，提高用户在线时长，免不了出现劣质内容“野蛮生长”，内容违规问题日渐凸显。
为此，国家相关管理机构相继出台一系列相关规定，对互联网传播的内容及主体责任进行管理、规范与明确。中国网络视听节目服务协会2017年7月发布《网络视听节目内容审核通则》，禁止短视频中出现纹身、色情、暴力等不良行为；随后网信办等四部委又启动了“剑网2018”打击网络侵权盗版专项行动；再到2019年互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》，进一步规范音视频信息传播秩序。近期推出的《网络短视频平台管理规范》中明确规定：平台上播出的所有短视频均应经内容审核后才可播出，其内容审核的范围包括节目的标题、简介、弹幕、评论等内容。
在日趋严格的法律、法规要求之下、在网络冗杂的信息环境之中，信息内容安全和舆论导向成为内容生产者、平台运营方安全生产的重中之重，去伪存真的风险防控（内容审核）也显得更为重要了。在实践中，部分内容平台方选择招聘大量的审核人员，通过人工审核的方式应对国家出台的各种政策法规的内容审核要求，但随着内容平台的扩张和海量UGC内容的爆炸式增长，全量内容的人工审核必然会导致审核效率的降低或审核质量的下降，存在潜在运营风险。同时，各项规定和标准持续更新，人工主观判断标准难以统一，针对同一内容不同审核人员可能产出不同的审核结果，极易出现误判或者漏判的情况，亟需通过技术手段统一审核标准、加快审核效率并能适应不断变化的内容审核需求，以高效、稳定的满足内容安全相关工作要求。
在此需求背景下，极链科技Video++针对目前行业面临的主要问题，响应政策号召，基于人工智能技术，推出全栈式智能内容安全审核引擎——神眼内容安全审核系统。用AI技术帮助平台方减轻内容审核压力、降低内容审核成本并提高内容审核效率，为客户提供一站式、开箱即用的智能内容安全解决方案。
神眼系统让内容审核更规范
神眼内容安全审核系统基于多种自研的SOTA的深度学习算法，面向视频平台、社交网站、网络社区、融媒体等内容运营群体，提供包括视频、文本、图像等泛内容的涉黄、暴力、政治敏感等风险内容的识别，高效遏制风险、全面释放审核人力、提高审核效率、净化网络环境、提升用户体验。
产品核心功能包括：智能鉴黄、智能鉴暴、政治敏感人物识别、公众人物识别、违禁品识别、广告检测、图像质量检测、logo识别、旗帜识别、OCR审核等。该系统支持本地私有化部署，独立的运营平台满足精细化运营需求，系统提供“三次审核”流程设置，通过“机器+人工”双重保障审核准确率高于行业平均水平，为企业构建牢不可破的内容安全防御体系。
六大核心优势 直击行业痛点
面对海量的内容信息，神眼系统直击内容安全领域的痛点问题，大规模降低人工审核人员投入，降低运营人力成本，同时提供更为精准、高效的AI内容审核服务，为网络形成安全合法的良性生态循环提供智能化助力。
多类型的内容载体：支持文本、图片、视频多维度的审核服务，并包含丰富的标签，精确匹配各种审核需求；
算法模型精度行业领先：基于极链自有的海量数据资源，自研AI算法训练得到的审核模型，准确率可达98%，行业领先；
智能化自定义设置：支持自选审核维度，自定义审核强度、自定义图片/文本黑库和敏感人物名单；
紧跟热点：同步辨识敏感和普通人物，一旦普通人物变为敏感人物，可快速屏蔽相关视频；
易用性强：可视化审核数据统计后台，功能全面，零学习门槛；
灵活部署：根据客户项目需求不同应用场景，支持私有化集群与单机部署方式，并提供API接口方便与原有业务系统集成。
人工智能技术加持 精准定位内容风险
神眼内容安全审核系统基于海量特征样本的多维度内容识别技术，采取全序列采样识别，支持轨迹流跟踪，有效提升视频抽帧的质量和检测效率。该技术能为视频、图片、文本等场景提供高效率的深度学习算法训练和算法推理准确度保证。极链科技自研的端到端的分布式VideoLab深度学习平台支持Caffe 、PyTorch、TensorFlow、MXNet等框架做为训练、推理后端，对于已建设AI相关推理平台与计算中心的客户，也可提供ONNX格式的模型，充分保护用户已有投资；同时，依据不同客户对推理精度与效率的诉求，可结合知识蒸馏，双精度、单精度等混合精度模型的方式，提供定制化推理部署服务。通过本系统对政治人物、色情、暴恐、旗帜等内容的自动化识别、审核，大幅度降低内容风险，可减少90%以上人工审核成本。
政治人物审核：使用自主研发的2D、3D等网络及人脸识别、OCR技术对视频、图片中出现的政治、敏感、公众人物人脸、文字等内容进行精确检测、质量评估及识别；用户在使用中可自行增加或减少人脸黑白名单库。
色情审核：使用自主研发的检测加识别网络配合Attention机制对视频、图片中出现的色情、裸露、性感等内容进行识别，细分为近20个标签。
旗帜标志审核：使用自主研发的目标检测及分割等网络对视频、图片中出现的国旗、地图、及反动组织（如台独、港独、藏独）等标志进行识别。
暴恐审核：使用自主研发的2D、3D目标检测及动作识别等网络对视频、图片中出现的血腥、暴力、危险武器等内容进行精确识别。
文本审核：通过OCR引擎对视频、图片中文本内容的检测与提取，可实现非结构化内容中的文本审核。文本审核系统使用了基于敏感词扩展检索、同义词识别、灌水识别、语义分类的多算法模块级联审核方案，不仅能够检测识别敏感词及其多种字面变形如括音字混合变形、谐音变形、拼音缩写变形、前后鼻音及平翘舌音变形、反读变形、填字变形、缺字变形、拆解字变形等，而且同义词识别算法、灌水识别算法、基于深度学习的语义分类算法能够提供更进一步的文本审核功能。
极链科技 Video++ 自成立以来始终专注于消费级视频AI技术研究与商业化落地应用实践。经过多年的技术迭代升级，积累了视频识别、图像识别、文本识别等在内的全方位、业界领先人工智能技术，沉淀了包括VideoAI金目视频内容结构化引擎、顽石OS视联网操作系统、VideoNet视频AI数据集等在内的，从数据到算法到平台产品的完整产品与技术体系。
目前，神眼内容安全审核系统已全面对外开放，极链期待与更多企业携手并进，共同努力打造更加安全健康的网络环境。
閱讀更多 AiChinaTech 的文章
