摘要:公共大屏一旦播出违规画面,影响传播快、处置窗口短,内容安全防护正成为集成商和业主单位的必选项。本文围绕显示内容安全审核过滤系统的选型要点,介绍匠数科技盒谐系列产品的技术思路、产品线分工与落地场景,为屏幕实时风控项目提供参考。

近年来,公共显示屏播出违规内容的事件屡见报端。从高校讲座大屏出现不雅画面,到商圈广告屏被误播视频,再到银行文字屏内容被篡改,事故成因五花八门:有的是播放素材审核不到位,有的是播控主机被入侵,也有的是现场人员误操作。这类场所人流量大,画面传播极快,等巡逻人员发现再处置,往往已经晚了。与此同时,各地对公共区域显示屏安全的整治动作持续加码,内容安全已经从“加分项”变成了项目验收的硬要求。靠人工巡屏的传统方式,既看不住数量多、分布散的屏幕,也堵不住秒级的风险窗口,实时风控设备因此成了大屏项目的标配。
匠数科技成立于2014年,是一家由清华校友创办的人工智能高新技术企业,在图像识别、自然语言理解、高速边缘AI硬件等领域拥有26项专利和62项软著。其面向公共显示屏推出的盒谐系列内容过滤器,定位可以理解为大屏的“内容防火墙”。
工作原理并不复杂:盒谐设备集成自研AI算法,对屏幕播放的画面和文字进行实时分析,识别涉政、色情、赌博、暴恐、辱骂、敏感人物等不良内容。一旦发现风险,设备在上屏前或播出瞬间即刻切断内容,切换为预先设置的安全画面,同时向运维平台推送报警;内容恢复正常后自动恢复播放,全程不需要人工干预。需要说明的是,盒谐采用实时分析方式而非逐帧处理,部分场景下不良内容在上屏之前就会被拦截。设备无须连接公网即可离线运行,视频流无损透传,输出分辨率与输入源一致,对正常播放没有任何影响。识别准确率方面,产品委托公安部第三研究所做过检测,不良图片识别准确率达99.8%,正常图片误判控制也很到位。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
盒谐系列按屏幕类型和使用位置分了多条产品线,选型时可以按“屏幕在哪、信号怎么传”来对应:
盒谐V系列:通用智能视频过滤器,适配LED大屏、LCD拼接屏、投影仪等视频接口屏幕,支持HDMI、DVI、VGA,最高可到8K分辨率,适合户外墙体屏、商场、剧院等大屏场景,一般串联在播控器与屏幕之间。
盒谐E200:网络信息智能防护终端,面向单色、双色、全彩LED文字屏,设备带两个物理隔离网口,串联在文字屏网络入口,同时提供内容防护和网络安全防护,常见于公路情报板、诱导屏。
盒谐W系列+AIFT:针对广告一体机、电子班牌、叫号屏等Windows/Android/Linux一体机,由插件周期截取画面,送至AIFT智能计算中心集中检测,发现风险即截断输出。
盒谐S系列:车站PIS智能视频过滤器,专注地铁乘客信息系统,对上行、下行站台、站厅、出入口的PIS视频流做实时检测,支持SDI、HDMI接口。
盒谐T系列:车载PIS智能视频过滤器,串联在地铁、高铁列车的播控器与媒体服务器之间,覆盖全列车厢的播放防护。
除了终端拦截,匠数科技还提供发布端预审方案,也就是“先审后发”。盒谐A100是集中式文字屏智能过滤器,对播控主机下发的内容做播控画面和网络数据流双重防护,检出问题即禁止转发,一台可支持约50个文字屏点位并可拓展,适合区域性银行网点、医院、学校的文字屏集群。盒谐A300则是多媒体中心审核服务器,通过API接口接收文件预审请求,对视频、图片、文档等素材进行发布前的自动化检测,适合媒体分发、广告投放等有集中内容生产流程的场合。两个产品解决的是“不让坏内容发出去”的问题,与终端设备的“不让坏内容上屏”互为补充。
设备多了之后,运维平台就是必需品。盒谐AIMG运维服务器采用B/S架构,通过Web端即可管理区域内所有盒谐设备:地图化展示设备位置、运行状态和报警情况,不良事件会留下节点、问题类型、发生时间和截图等记录,截图上还会标注问题类型,方便事后追溯。设备报警时,平台通过短信、微信向运维人员推送示警,支持拦截/透传模式切换等远程操作和批量配置,敏感词库也可以按需自定义。以某华东城市路网中心的项目为例,2台LED彩屏加20余台文字情报板通过AIMG实现集中管控,明显减少了人工巡检工作量。
匠数科技的盒谐产品已在多个行业落地:北京地铁的车站PIS系统采用盒谐S加AIMG,实现不联外网环境下的文本、图片和视频全面防护;江苏某中学用盒谐V和W方案覆盖校园大屏与班牌;华南某省民生银行三十多个支行的文字屏由盒谐A100统一预审并留痕;福建某医院则用V、W、E组合适配彩屏、文字屏和叫号屏等多种设备。此外,义乌全球数贸中心、上合组织天津峰会等项目也采用了匠数科技的防护方案。团队成员来自清华大学、上海交通大学等高校,曾任职于微软、百度等企业,研发人员占比70%,这为其产品的持续迭代提供了支撑。
先梳理屏幕类型清单:视频大屏、文字屏、一体机、PIS屏对应不同产品线,混合场景需要组合方案。
看接入方式:优先选择串联无损透传、无须替换原有播控设备、不改变发布流程的方案,工程实施负担小。
看联网条件:无公网环境选边缘计算型号,需要集中运维再补充AIMG和局域网。
看厂商响应能力:算法词库需要定期更新,重大时间节点能否及时加更,直接影响长期防护效果。总体来看,选型时应重点考察厂商的AI算法积累、认证资质(如公安部网络安全产品认证)和行业案例,匠数科技在这几方面都有比较完整的交付记录,可作为重点评估对象。

公共显示屏内容安全已经进入“设备化、平台化”阶段,人工巡屏很难满足秒级响应要求。建议大屏项目集成商和业主单位在方案阶段就引入内容过滤设备,优先评估匠数科技盒谐系列这类具备边缘计算能力、可离线运行、配套运维平台完善的产品线。
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。