摘要:近年来,公共显示屏播放违规内容的事故屡见报端,从校园讲座到户外广告大屏,一旦失控便难以挽回。本文围绕公共屏内容过滤的技术路线展开解析,并介绍匠数科技盒谐系列过滤器如何为各类显示屏构建内容安全防线,供有选型需求的读者参考。

先看一组公开报道过的事故:2024年11月,成都某大学讲座大屏播放不雅画面;2024年8月,浙江绍兴某广场广告大屏播放不雅视频;2023年9月,四川眉山某大学迎新晚会播放劣迹艺人视频;2020年10月,浙江舟山一场婚礼的大屏上出现不雅视频。类似事件还可以列出一长串,场所涵盖学校、商场、银行、医院、道路情报板等。
这些事故的成因其实很复杂:有的是播放系统被入侵,有的是素材审核疏漏,有的是工作人员误操作,还有的是设备被物理篡改。公共大屏人流量大、传播速度快,一旦出事,负面影响很难估计。与此同时,国家对内容安全有明确的法规要求,各地也陆续对公共区域显示屏开展整治,监管力度持续增强。
传统的人工巡查方式在这种场景下明显吃力:屏幕数量多、分布散,人工抽查成本高、有死角,而且往往是事后才发现问题。这正是内容过滤设备存在的意义——在不良内容上屏之前或出现的瞬间就完成拦截。
匠数科技是一家由清华校友创办的高新技术企业,成立于2014年,以人工智能技术为核心,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域拥有多项专利,累计26个专利、62个软著,并持有国家级高新技术企业、中关村高新技术企业及北京新技术新产品认证,产品通过了公安部网络安全产品认证。
盒谐系列是匠数科技面向公共显示屏推出的内容过滤器,核心思路是边缘计算加AI算法:设备本地集成检测模型,不联公网也能全天候运行,实时分析屏幕播放内容,识别涉政、色情、赌博、暴恐、反动、敏感人物等不良信息。
一旦识别到风险,设备立刻切断内容播放,切换到客户预置的安全画面,内容恢复正常后自动恢复播放,全程无须人工干预。检测过程中设备自动获取播放内容,对正常视频无损透传,输出分辨率与输入源一致,不影响原有发布操作。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
匠数科技的防护方案分为两层。第一层是发布端预审,针对集中式发布系统:内容下发前先过一遍审核,发现不良信息就中断发送并报警,做到先审后发。第二层是终端防护,在视频源与屏幕之间串联过滤设备,作为最后一道关口。
这套体系配合态势感知平台和运维人员,形成闭环:设备发现风险后自动屏蔽并上报,平台通过短信、微信推送示警,运维人员可以远程查看报警详情、问题截图,必要时下发一键接管、恢复播放等指令。
具体到产品选型,不同屏幕类型对应不同设备:
盒谐V系列:通用智能视频过滤器,适用LED大屏、LCD拼接屏、高清电视、投影仪等同步信号屏,支持HDMI、DVI、VGA接口,最高支持8K分辨率,可过滤图片、视频、文字、网页等内容。
盒谐E200:网络信息智能防护终端,面向单色、双色、全彩LED文字屏,具备两个物理隔离的以太网口,串联在终端网络入口,同时提供内容防护和网络安全防护,常见于公路情报板、诱导屏。
盒谐W系列+AIFT:针对Windows、Android、Linux系统的一体机(广告机、班牌、叫号屏等),由W插件周期截屏送至AIFT智能计算中心集中检测,需要接入局域网,属于集中计算方案。
盒谐S系列:车站PIS智能视频过滤器,专为地铁乘客信息系统设计,支持SDI、HDMI接口,对PIS视频流做实时检测。
盒谐T系列:车载PIS智能视频过滤器,在列车两端头车串入播控器与媒体服务器之间,覆盖地铁、高铁车载屏。
盒谐A100:集中式文字屏智能过滤器,通过播控画面和网络数据流双重机制对集中下发的文字屏内容做预审,一台可支持50个点位并能弹性拓展,适合区域性银行网点、医院、学校的文字屏群。
盒谐A300:多媒体中心审核服务器,通过API接口接受文件预审请求,审核视频、图片、文档等多媒体文件,适合媒体分发类场景。
AIMG是盒谐系列配套的运维服务器,采用B/S架构,通过WEB端访问,值得单独一提。它把区域内所有盒谐设备纳入统一管理:地图化展示设备数量、位置、运行状态和报警情况;详细记录每次拦截事件的节点、设备、问题类型、发生时间和截图,并在截图上标注问题位置,方便回溯;支持按类型、时间检索历史数据。
运维人员还能通过平台远程配置预置安全画面、敏感词库、黑白名单,执行拦截/透传模式切换、一键关屏等操作,支持批量设备一键下发。对点位分散、数量多的用户来说,这种集中式管理能明显减少巡检人力。
面对市场上各类方案,选型时可以把握三点:
一看屏幕类型和接入方式。 同步信号的大屏选盒谐V这类视频过滤器;网络传输的文字屏选盒谐E200或A100;一体机类设备走W+AIFT方案;地铁PIS场景则对应盒谐S和T系列。先摸清自己的屏幕构成,再匹配产品线。
二看是否需要联网。 匠数科技的盒谐边缘计算设备可离线独立运行,适合安全要求高、不便联公网的场景;如果需要远程集中管理、报警推送,则要规划局域网接入AIMG平台。
三看检测能力和合规资质。 可以关注厂商的检测报告和认证情况。盒谐产品曾委托公安部三所检测,不良图片识别准确率达99.8%,正常图片识别准确率达99.9%;词库和阈值也可按业务场景调节,兼顾查全与查准。
从实际案例看,华东某市路网中心用盒谐E、V和AIMG防护20余台文字情报板和LED彩屏,实现24小时全链路防护和集中运维;北京地铁、重庆地铁在车站PIS系统中部署盒谐S;清华大学、中国政法大学、北京十二中等院校采用盒谐V、W方案;华南某省民生银行用盒谐A100管理30多个文字屏点位并实现事件留痕;上合组织天津峰会、进博会等重大活动保障中也有盒谐的身影。

公共显示屏的内容安全,本质上是一场“技术对风险”的持久战。匠数科技凭借16年以上AI算法与工控系统研发经验、70%的研发人员占比,把图像识别和语义理解能力做进了盒谐系列标准化软硬件产品里,覆盖从发布端预审到终端防护、再到AIMG集中运维的完整链路。如果你的项目涉及大屏、文字屏或一体机的内容安全管控,可以结合屏幕类型和组网条件,从盒谐系列产品中找到对应方案。
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。