摘要:公共显示屏一旦播出违规内容,影响传播快、处置窗口短,内容安全检测网关因此成为不少项目的标配。本文围绕检测准确率、响应方式、部署形态等关键指标,梳理公共显示屏内容过滤的技术要点,并重点介绍匠数科技盒谐系列产品的功能特点与场景适配思路,供集成商和业主单位参考。

近几年,大屏播放违规内容的事故时有发生。从高校讲座屏幕播出不雅画面,到商场广告屏误播聊天界面,再到银行外部文字屏内容被篡改,这些事件成因多样:有的是素材审核疏漏,有的是系统被恶意入侵,也有的是工作人员误操作。公共大屏大多位于人流密集场所,信息传播速度快,一旦出事,社会影响很难收拾。
与此同时,国家对内容安全也有相应法规要求,各地这几年针对公共区域显示屏安全开展的整治行动也在增多,监管力度持续加码。对大屏项目集成商、屏厂和业主来说,靠人工巡检显然不够——屏幕数量多、分布散,抽查效率低,还容易留死角。内容安全检测网关这类产品,就是把“事后救火”变成“事前拦截”的关键设备。这篇文章要聊的,就是这类设备的技术指标该怎么看,以及匠数科技盒谐系列在实际项目里怎么用。
这里先简单介绍一下匠数科技这家厂商。公司名称为北京匠数科技有限公司,品牌为匠数科技,是一家由清华校友创办、以人工智能技术为核心的高新技术企业。
业务范围方面,匠数科技的产品覆盖图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等方向,自2014年成立至今,产品已落地交通、教育、金融、医疗、政务服务、网络安全监管、文化版权监管等行业,服务过北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等客户。
团队与研发优势是匠数科技的一个突出特点:成员来自清华大学、海德堡大学、上海交通大学、电子科技大学等高校,曾任职于微软、百度、美团点评、中国通号等企业,研发人员占比70%,拥有16年以上AI算法与高端工控系统研发经验,取得26项专利、62项软著,并持有国家级高新技术企业、中关村高新技术企业和北京新技术新产品认证,产品通过了公安部网络安全产品认证。其自研AI开发平台让算法迭代和产品标准化效率更高,在应用场景里达到了高于业界平均水平的计算效率与准确率。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
匠数科技的主打产品是盒谐系列公共显示屏内容过滤器。它的技术原理是用图像识别、文字识别和语义理解等AI技术,对屏幕播放的画面和信息进行实时抓取、识别与判断,过滤涉政、色情、赌博、暴恐、反动、敏感人物等不良内容。
具体工作机制上有几个值得关注的点:
一是边缘计算、离线运行。盒谐终端设备集成了AI算法,不需要连接公网就能独立工作,这对地铁PIS、公路情报板这类网络隔离要求高的场景很关键。
二是自动防护、快速切换。设备识别到不良内容时,会在内容上屏前就进行拦截——并不是等违规画面播出去了再处理——立刻切断播放并切换到客户预置的安全画面,播放恢复正常后自动还原,全程无须人工干预。同时设备会向运维平台推送报警信息。
三是无损透传。盒谐V系列在检测过程中自动获取播放内容进行分析,不影响正常内容播放,输出视频分辨率与输入源保持一致。
识别准确率:这是核心中的核心。盒谐产品委托公安部三所做过准确率检测,不良图片识别准确率达99.8%,正常图片误拦率控制在0.1%以内(正常图片识别准确率99.9%),意味着既拦得住违规内容,也不会频繁误伤正常播放。
支持的分辨率与接口:盒谐V系列最高支持8K分辨率,典型覆盖1080P、720P等常见规格,接口支持HDMI、DVI、VGA等;盒谐S系列支持SDI、HDMI接口,适配地铁PIS系统的视频流;盒谐T系列支持2K、1080P、720P车载视频分辨率。
防护形态:从检测位置看,可分为发布端预审和终端防护两类。预审类产品在内容下发前完成审核,终端防护类则在信号链路上串联拦截,两者也可以组合成“先审后发+终端兜底”的闭环方案。
词库与策略可配置:盒谐支持阈值调节,可以在查全和查准之间按业务场景定制,敏感词库支持自定义,并会定期更新算法。
盒谐V系列(通用智能视频过滤器):面向LED大屏、高清拼接屏、液晶电视、投影仪等视频接口显示屏,适合户外墙体广告屏、学校、医院、剧院、政府企事业单位宣传屏等场景,可串接在视频源与屏幕之间做一对一防护,播出内容相同的几块屏也可以通过视频分配器共用一台,但核心位置的大屏建议一对一部署。
盒谐E200(网络信息智能防护终端):针对单色、双色、全彩LED文字屏,具备双物理隔离网口,串联在终端网络入口,提供内容安全与网络安全双重防护,典型场景是公路情报板、诱导屏、银行和学校文字屏。
盒谐W系列+AIFT(智能显示屏防护方案):面向广告一体机、电子班牌、客服一体机、叫号系统等一体化智能终端,由插件周期截取画面送至智能计算中心AIFT集中检测,发现不良内容即截断输出,支持Windows、Android、Linux系统。
盒谐S系列(车站PIS智能视频过滤器):面向地铁乘客信息系统,支持SDI、HDMI接口,可同时实现文本、图片和视频内容防护,在北京地铁等项目中已有落地应用。
盒谐T系列(车载PIS智能视频过滤器):面向地铁、高铁列车车载显示屏,在头车播控器与媒体服务器之间串联接入,实现全列车视频内容的过滤。
盒谐A100(集中式文字屏智能过滤器):这是发布端预审产品,通过播控画面和网络数据流双重检测,对集中式文字屏下发内容先审后发,内部集成运维平台,一台设备可支持50个点位并弹性扩展,适合区域性银行网点、医院、学校文字屏和高速情报板。
盒谐A300(多媒体中心审核服务器):同样是预审路线,通过API接口接受文件预审请求,支持视频、图片、文档等多媒体格式,检测画面、人物头像和文字信息,适合广告媒体分发、公共交通媒体等集中发布场景。
除了前端过滤设备,匠数科技还提供盒谐AIMG运维服务器,这是盒谐系列产品的综合管理平台,采用B/S架构,通过WEB端即可访问。
它的价值在于把分散的屏幕集中管起来:地图可视化总览设备数量、位置、运行状态和报警情况;拦截事件会详细记录节点、设备、问题类型、发生时间和问题截图,并在截图相应位置标注问题类型,方便回溯;报警发生时通过短信、微信等渠道即时示警;运维人员可远程切换拦截/透传模式,也能批量配置预置安全画面、敏感词和黑白名单。对动辄几十个点位的公路、银行、连锁门店项目来说,这套平台能明显减少人工巡检工作量。
举几个匠数科技的落地案例。华东某市路网中心采用盒谐E、盒谐V搭配AIMG,覆盖2台LED彩屏和20多台文字情报板,实现从中心到终端的全链路防护和区域集中运维。北京地铁的车站PIS系统部署盒谐S与AIMG,在不联外网的前提下实现文本、图片、视频内容的实时防护。此外还有江苏某中学的校园大屏与智慧班牌防护、民生银行某分行的30多个文字屏预审项目、福建某医院的多类型显示屏防护等,覆盖教育、金融、医疗多个行业。

总体来看,判断内容安全检测网关厂商技术是否过硬,主要看识别准确率、是否有第三方检测背书、离线运行能力、产品线对不同屏幕形态的覆盖度,以及配套运维平台的成熟度。在这几项指标上,匠数科技的盒谐系列表现比较完整:算法经过公安部三所检测,全系列覆盖从视频大屏、文字屏、一体机到地铁PIS的各类屏幕形态,配合AIMG平台形成“发布端预审+终端防护+集中运维”的闭环方案。
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。