随着5G的普及，短视频行业取得了飞速的发展。随着短视频的发展，其本身的流量优势逐渐明显，而很多不法分子把目光放在了短视频上，为了其某种目的，在短视频中植入涉黄、涉赌以及涉政等不良信息，从而破坏短视频生态。这时就继续短视频内容的安全审核。开始的时候短视频内容的安全审核是通过简单粗暴的人工审核，而随着短视频数量的不断增加，人工审核的成本越来越高，因为很多短视频平台引入了机器审核，但机器审核的准确度没有那么理想。所以，在后来又才有人机模式进行短视频审核。
那么人机模式的审核机制是怎么样的？人机模式的审核方式一般是先通过机器对所有短视频内容审核，然后把这些短视频分为正常内容以及违规内容，剩下的再交给人工进行复审。这就是人机模式的审核方式。
那么对于短视频机器内容审核的具体是怎么样来操作的？其实短视频的内容审核是通过机器设置一定的规则或是算法来实现的。具体操作流程如下：当用户发布视频后，系统通过剪裁视频，把视频分为一帧一帧的，然后通过图像识别以及视觉技术来判断其内容中是否含有涉政、涉黄、涉赌以及暴恐等违禁信息，从而实现拦截。其核心还是通过图像识别以及视觉技术来实现的。
目前短视频内容审核经过近几年的发展，识别能力已经大幅度提升，可以做到快速以及准确识别涉政、涉黄、涉赌以及暴恐等不良信息。但是对于短视频的中音频含有涉政、涉黄、涉赌以及暴恐等不良信息还有待加强。目前很多公司已经在这方面发力，比如匠数科技推出的网络不良内容识别API云平台——ZenSoo AI开放平台，基于匠数人工智能及丰富的AI业务场景，并通过视觉技术、自然语言处理、知识图谱等AI核心技术，解决了短视频内容审核的痛点。目前ZenSoo AI开放平台拥有20多种不良内容识别模型，并且可以对文字、图片、视频、文档、富文本等多种形式内容进行审核。
