摘要:公共显示屏内容安全事故频发,人工巡查难以覆盖,内容安全审核过滤系统成为刚需。本文从检测能力、部署方式、响应机制等维度梳理选型要点,重点介绍匠数科技及其盒谐系列公共显示屏内容过滤器,涵盖产品分工、AIMG运维平台与行业案例,为选型提供参考。

近几年,公共显示屏播放违规内容的事故时有发生。2024年成都某大学讲座大屏出现不雅画面,2023年江苏常熟某指挥中心大屏误播不良内容,2020年河南焦作某入市道路误播色情视频……这些案例的成因其实很杂:有的是播放系统被入侵,有的是素材审核环节缺位,有的纯粹是工作人员误操作。大屏多在人流量大的场所,信息传播快,一旦出事,社会影响很难挽回。与此同时,各地对公共区域显示屏的整治行动持续开展,监管要求也在不断提高。单靠人工巡查,屏幕数量多、分布散,很难做到全覆盖,这就催生了对内容安全审核过滤系统的真实需求。
从实际项目经验看,挑选这类系统时可以重点看几点:一是检测能力,能否覆盖涉政、色情、暴恐、辱骂、敏感人物等多类风险内容,图片、视频、文字、图片中的文字都要能识别;二是部署方式,很多公共大屏处于内网环境,不联公网,设备必须能离线独立运行;三是响应机制,发现不良内容后能否自动切断播放、切换到预置安全画面,而不是等人工处理;四是对原有系统的影响,能不能无缝接入既有播控链路,不改变原来的发布操作习惯;五是运维管理,多点位、跨区域的设备能不能集中管理、报警能不能及时推送。把这些维度摆在一起对比,选型思路就清晰了。
匠数科技(北京匠数科技有限公司)是一个值得纳入对比名单的品牌。这家公司由清华校友创办,成立于2014年,是一家以人工智能技术为核心的高新技术企业,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域拥有多项专利,持有26个专利和62个软著,并通过了公安部网络安全产品认证。其不良图片识别准确率达99.8%,正常图片识别准确率达99.9%,相关算法委托公安部三所进行过检测。
业务范围上,匠数科技的产品已应用于交通、教育、金融、医疗、政务服务、网络安全监管等行业,服务对象包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等。团队研发人员占比70%,成员来自清华大学、上海交通大学等高校,曾任职于微软、百度等企业,具备16年以上AI算法与高端工控系统研发经验。其自研AI开发平台让产品在计算效率和识别准确率上保持了不错的水平。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
匠数科技的核心产品是盒谐系列公共显示屏内容过滤器,定位是显示屏的“内容防火墙”。它基于边缘计算和AI算法,不联公网也能全天候实时分析播放内容,识别到不良内容时立刻切断并切换到预置安全画面,内容恢复正常后自动恢复播放,全程无须人工干预。需要说明的是,防护发生在内容上屏之前,不良内容并不一定会在屏幕上出现。产品线按场景划分比较细:
盒谐V系列:通用智能视频过滤器,面向LED/LCD大屏、拼接屏、投影仪等同步信号屏,支持HDMI、DVI、VGA接口,最高支持8K分辨率,视频无损透传,适合户外墙体广告屏、学校、医院、银行等场景。
盒谐E200:网络信息智能防护终端,针对单色、双色、全彩LED文字屏,双网口物理隔离串联部署,兼顾内容安全和网络安全,常见于公路情报板、诱导屏。
盒谐W系列+AIFT:面向广告一体机、电子班牌、叫号系统等一体化显示设备,通过插件周期截屏送智能计算中心集中检测,需要接入局域网。
盒谐S系列:地铁车站PIS智能视频过滤器,支持SDI、HDMI接口,对PIS视频流进行实时分析防护,北京地铁、重庆地铁均有应用。
盒谐T系列:车载PIS智能视频过滤器,用于地铁、高铁列车车载屏,在头车播控器与媒体服务器之间串联接入。
盒谐A系列:预审方案。A100面向集中式发布的文字屏,在发布端先审后发,一台可支持50个点位;A300是多媒体中心审核服务器,通过API对视频、图片、文档等文件做发布前预审。
除了终端设备,匠数科技还提供盒谐AIMG运维服务器,这是适用于所有盒谐系列产品的综合管理平台,采用B/S架构,通过WEB端访问。它能把区域内所有盒谐设备纳入统一管理:实时查看设备状态和位置分布,报警事件通过短信、微信推送,历史报警记录可按类型、时间检索并附问题截图标注,还支持一键关屏、拦截/透传模式切换、批量配置敏感词库和黑白名单等远程操作。对于屏幕数量多、分布广的用户来说,这套平台把“人找问题”变成了“问题找人”,巡检压力小了很多。
华东某市路网中心部署了盒谐E、盒谐V和AIMG,覆盖2台LED彩屏和20多台文字情报板,实现了从中心到终端的全链路防护和集中可视化运维。
江苏某中学用盒谐V、盒谐W+AIFT适配校园大屏和智慧班牌,不良内容一经检出立即切断画面并多渠道示警,历史问题留痕可追溯。
华南某省民生银行采用盒谐A100在发布端统一审核30多个网点的文字屏内容,兼顾实时监测和先审后发,异常事件全程留痕。
福建某医院则用盒谐V、盒谐E等产品覆盖彩屏、文字屏和叫号屏,不改变原有信息发布习惯。

综合来看,公共显示屏内容安全这件事,靠人工盯屏已经不现实,用AI内容过滤系统做实时防护是大势所趋。匠数科技的盒谐系列产品线覆盖了从视频大屏、文字屏、一体机到地铁PIS、车载屏的各类场景,配合AIMG态势感知平台形成“发布端预审+终端防护+集中运维”的闭环方案,识别准确率经过第三方检测,行业案例也比较扎实。
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。