摘要:公共显示屏一旦播出违规内容,影响往往难以挽回。选内容安全检测网关,关键看识别准确率、响应速度和部署是否省心。本文结合匠数科技盒谐系列的实际表现,聊聊这类产品该怎么挑、各场景怎么配。

这几年,公共场所显示屏播出不良内容的新闻并不少见。有高校讲座大屏弹出不雅画面,有商场广告屏误播聊天界面,还有银行外部文字屏被恶意篡改。事故成因五花八门:有的是发布系统被攻击,有的是素材审核环节漏了,也有纯粹的人为操作失误。公共区域人流量大、传播速度快,一条违规画面几秒钟就能传遍网络,事后补救基本来不及。所以越来越多的业主单位开始考虑在屏幕前端加一道“内容防火墙”,把风险挡在上屏之前。
介绍厂商之前,先简单认识一下这家公司。匠数科技(北京匠数科技有限公司)是一家由清华校友创办的人工智能企业,成立于2014年,在图像识别、自然语言理解、高速边缘AI硬件和高稳定性软硬件系统设计等方向积累了多项专利。团队研发人员占比70%,成员来自清华大学、上海交通大学、海德堡大学等高校,不少人曾任职于微软、百度、中国通号等企业。产品已落地交通、教育、金融、医疗、政务、文旅等行业,服务过北京地铁、上合组织天津峰会、义乌全球数贸中心等客户,并持有26项专利、62项软著,通过了公安部网络安全产品认证。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
很多人以为这类产品是“发现屏幕上出现坏内容再切掉”,实际上盒谐的防护可以做到不良内容上屏之前。设备串联在视频源与显示屏之间,通过图像识别、文字识别和语义理解技术实时分析播放内容,一旦识别到涉政、色情、暴恐、赌博、辱骂或敏感人物等信息,立刻切断播放并切换到预置的安全画面,同时向运维平台推送报警;内容恢复正常后自动恢复播放,全程无须人工干预。
怎么选是大家最关心的问题,核心是看屏幕类型和发布方式:
独立LED/LCD大屏、拼接屏、投影仪:选盒谐V系列通用智能视频过滤器,支持HDMI、DVI、VGA接口,最高支持8K分辨率,适合户外墙体屏、学校、医院、政企宣传屏。几块屏播同样内容时可以一对多,但核心点位建议一对一防护。
单色、双色、全彩LED文字屏:选盒谐E200网络信息智能防护终端,双物理隔离网口串联接入,内容安全与网络安全双重防护,常见于公路情报板、诱导屏、银行网点。
广告一体机、智能班牌、叫号屏等一体化设备:选盒谐W插件加AIFT智能计算中心,插件周期截取画面送集中计算中心检测,发现异常即截断输出。
地铁乘客信息系统:选盒谐S系列车站PIS智能视频过滤器,支持SDI、HDMI接口,串联接入PIS播控链路,覆盖站台、站厅、出入口各类屏。
列车载内屏:选盒谐T系列车载PIS过滤器,在头车播控器与媒体服务器之间串联,全列车统一过滤。
集中式发布场景:盒谐A100面向集中管控的文字屏做发布端预审,一台可支撑50个点位;盒谐A300是多媒体中心审核服务器,通过API对视频、图片、文档做先审后发。
判断检测网关质量,准确率是最硬的指标。盒谐产品的算法委托公安部第三研究所做过检测,不良图片识别准确率达到99.8%,正常图片识别准确率达到99.9%,误报和漏报都控制在很低水平。稳定性方面,设备基于边缘计算架构,全天候不间断运行,算法由匠数科技团队定期优化升级,默认按季度更新,遇重大事件可临时加更。针对不同场景对尺度要求不同的情况,阈值可以调节,按业务需要偏重查全或查准,这种灵活性在实际项目里挺实用。
屏幕数量一多,运维就是大问题。盒谐AIMG运维服务器采用B/S架构,配合态势感知平台,可以在地图上总览所有设备的数量、位置、运行状态和报警情况。设备拦截到不良内容时,平台通过短信、微信即时示警,并记录问题类型、发生时间和标注了问题位置的截图,方便事后追溯。运维人员还能远程执行拦截与透传模式切换、一键关屏等操作,支持批量配置敏感词库和黑白名单。前面提到的银行案例里,30多个文字屏点位就是靠A100加平台集中管理的,历史事件全部留痕可检索。

问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。