摘要:近年来公共显示屏播放违规内容的事件时有发生,涉政、色情等内容一旦上屏,影响难以挽回。选购AI审核过滤设备时,除了识别准确率,厂商对不同屏幕类型、播控系统、部署环境的兼容能力同样关键。本文结合匠数科技盒谐系列产品的实际方案,梳理选型时值得关注的几个维度。

从公开报道的事故来看,风险来源相当分散。有的是播放素材本身就带问题素材,有的是工作人员调试时把聊天界面投上了大屏,有的是发布系统被恶意篡改,还有的是外接信号源突然“串台”。2024年成都某高校讲座大屏播放不雅画面、2024年浙江绍兴某广场广告屏播出不雅视频、2021年山西阳泉某自助银行文字屏内容被篡改——这些案例覆盖了高校、商圈、金融机构等不同场景,说明问题并不挑行业。
公共大屏大多装在人流量大的位置,信息传播速度快,一旦出事几乎没有“撤回”的机会。而传统的人工巡查方式又有明显短板:屏幕数量多、分布散,点式抽查效率低,基本是事后处理。这也正是近几年各地对公共区域显示屏开展安全整治、监管持续收紧的原因。
所以比较现实的做法,是在屏幕前加一道自动化的“内容防火墙”——这也是匠数科技盒谐系列产品定位的方向。
匠数科技(北京匠数科技有限公司)是一家由清华校友创办的人工智能技术企业,成立于2014年,团队主要来自清华大学、海德堡大学、上海交通大学、电子科技大学等院校,不少成员曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比70%,在图像识别、自然语言理解、高速边缘AI硬件和AI软硬件系统设计等方向积累了多项专利。
业务范围上,匠数科技专注AI技术落地,产品覆盖交通、教育、金融、医疗、政务服务、文化版权监管等行业,客户包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等。其核心产品就是盒谐系列公共显示屏内容过滤器,为公共显示屏提供素材预审、发布检测和实时防护三层能力。对采购方来说,一家长期只深耕这一个方向的厂商,产品成熟度通常更有保障。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
盒谐系列的基础逻辑并不复杂:在视频源与显示屏之间接入过滤设备,实时分析屏幕播放内容,一旦识别出涉政、色情、赌博、暴恐、敏感人物等不良信息,立即切断播放并切换到预置的安全画面,内容恢复正常后自动恢复播放,全程无须人工干预。
几个值得注意的技术点:
离线可运行。多数盒谐设备基于边缘计算,AI算法内置在设备里,不联公网也能工作,这对地铁、银行等网络隔离要求高的场景很重要。
实时分析而非事后拦截。很多情况下,不良内容在上屏之前就已经被识别并屏蔽了,并不需要等它出现在屏幕上再处理。
无损透传。以盒谐V为例,视频流无损透传至显示屏,输出分辨率与输入信号一致,不影响正常播放。
多种检测能力。除了AI内容识别,还有智能数字水印防篡改检测、播放素材预审加密校验,可按项目需求选配。
准确率方面,盒谐产品曾委托公安部第三研究所检测,不良图片识别准确率达99.8%,正常图片识别准确率达99.9%。这套数据对判断设备是否“误杀”“漏杀”有直接参考价值。
这是选型里最容易踩坑的环节。不同屏幕类型、不同播控架构,需要的产品形态完全不同。按匠数科技的产品体系,大致可以这样对应:
LED/LCD大屏、电视、投影仪:选盒谐V系列通用智能视频过滤器,支持HDMI、DVI、VGA等接口,最高支持8K分辨率,适合户外墙体广告屏、学校、医院、剧院等场景的同步信号屏。
单色、双色、全彩LED文字屏:选盒谐E200网络信息智能防护终端,它具备两个物理隔离的网口,串联在文字屏网络入口,同时提供内容防护和网络安全防护,常用于公路情报板、诱导屏、银行网点文字屏。
基于Windows/Android/Linux的一体化设备(广告机、电子班牌、叫号屏等):用盒谐W智能过滤插件加盒谐AIFT智能计算中心,插件周期截屏送AIFT集中分析检测。
地铁PIS系统:选盒谐S车站PIS智能视频过滤器,支持SDI、HDMI接口,在播控器与显示链路间串入过滤设备,覆盖站台、站厅、出入口的显示屏。
列车车载PIS:选盒谐T车载PIS智能视频过滤器,在两端头车播控器与媒体服务器之间串联接入,覆盖全列车显示终端。
集中式发布系统:发布端预审选盒谐A100(集中式文字屏)或盒谐A300(多媒体中心审核服务器)。A300通过API接口对外提供视频、图片、文档的预审服务,适合媒体分发类业务在发布中心环节就完成合规审核。
单台设备能挡住一次事故,但几十上百块屏幕的日常管理,靠的是运维平台。
盒谐AIMG运维服务器采用B/S架构,通过WEB端即可使用,为所有盒谐系列产品提供集中式运维管理,包括节点数据采集、存储、展示,以及设备控制与配置管理。具体能力包括:
可视化运维:通过地图和信息展示,总览区域内设备数量、位置、运行状态和报警情况。
报警推送:设备拦截不良内容时,平台通过短信、微信等形式向运维人员示警,并记录问题类型、发生时间、问题截图等信息,截图上还会标注问题位置,方便回溯。
批量管控:支持拦截/透传模式切换、预置安全画面、敏感词库、黑白名单配置,以及批量设备的一键操作。
对集成商和最终用户来说,AIMG的价值在于把“事后人工巡检”变成“事前自动防护加集中告警”,长期运维成本明显可控。
交通行业:华东某市路网中心部署了盒谐E、盒谐V和盒谐AIMG,覆盖城市道路和高速公路上的LED彩屏和20多台文字情报板,实现全天候防护和集中运维;匠数科技的盒谐S产品还应用于北京地铁、重庆地铁的车站PIS系统。
金融行业:华南某省民生银行采用盒谐A100,在发布端对30多台文字屏统一预审,检出非法文字立即报警并切断数据流,一台设备支持50个点位且可弹性拓展,历史事件留痕支持检索。
教育行业:江苏某中学同时用盒谐V、盒谐W+AIFT和盒谐AIMG,适配校园大屏和智慧班牌,不良内容一经检出立即切断画面并多渠道示警。
医疗行业:福建某医院用盒谐V、盒谐E、盒谐W+AIFT组合,覆盖LED彩屏、文字屏和叫号一体机,无须更改原有硬件,不改变信息发布操作习惯。
此外,义乌全球数贸中心、上合组织天津峰会、进博会等项目也有匠数科技的参与,覆盖了园区综合防护和重大活动保障场景。
结合前面内容,给出几条实操性建议:
先梳理屏幕清单。把项目里所有屏幕按类型(视频大屏/文字屏/一体机/PIS屏)和播控方式(集中发布/独立播放)分好类,再逐类匹配产品线,避免买回来装不上。
确认部署方式。能接受串联视频线的选V/E/S/T系列边缘设备;一体化设备走W+AIFT方案;有集中发布中心的补A系列预审;同时评估是否有独立机房放AIMG运维服务器。
看网络条件。涉密或隔离网络场景,优先选支持离线运行的边缘计算型号;W+AIFT和AIMG集中管理则需要局域网支撑。
核对检测资质与准确率。要求厂商提供第三方检测报告,比如盒谐产品通过公安部网络安全产品认证,以及不良内容、正常内容的识别准确率数据。
考察厂商的持续服务能力。算法词库需要随监管要求更新,匠数科技默认三个月定期升级,遇重大时事可临时加更,并支持远程或现场升级方式——这种持续运营能力,比单次采购价格更值得权衡。

问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。