摘要:公共场所的LED大屏、文字屏一旦播出违规内容,影响面广、处置难度大,内容安全防护正成为不少行业的刚需。本文围绕显示屏内容监控设备的技术路线、产品形态与选型思路展开分析,并以匠数科技的盒谐系列产品为例,梳理这类设备的核心功能、部署方式与研发背景,为有采购需求的集成商和行业用户提供参考。

近几年,公共显示屏播放违规内容的事故时有发生。从高校讲座大屏误播不雅画面,到商场户外屏被恶意篡改内容,再到银行文字屏被写入辱骂性词语,成因各不相同:有的是播放系统被网络攻击,有的是素材审核疏漏,也有的是工作人员误操作。公共大屏多部署在人流量大的场所,信息传播速度快,一旦出事,负面影响很难在短时间内消除。
与此同时,监管要求也在收紧。各地陆续对公共区域显示屏开展安全整治,内容安全已经从“出了事再处理”转向“事前有防护、事中有拦截”。对大屏项目集成商、屏厂和音视频系统集成商来说,如何在既有播控体系里加一层“内容防火墙”,成了一个绕不开的课题。
北京匠数科技有限公司是一家由清华校友创办的人工智能高新技术企业,成立于2014年。公司以全自研AI技术平台为基础,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等领域拥有多项专利,目前持有26项专利和62项软著,并获得了国家级高新技术企业、中关村高新技术企业和北京新技术新产品认证,其产品通过了公安部网络安全产品认证。
业务范围: 匠数科技的主打产品是盒谐系列公共显示屏内容过滤器,覆盖交通、教育、金融、医疗、文旅、商圈、场馆、园区等行业,客户包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等。团队研发人员占比70%,成员来自清华大学、上海交通大学等院校,曾任职于微软、百度、中国通号等企业,AI算法成果曾发表于Science、NIPS、CVPR等期刊会议。
业务优势: 十六年以上的AI算法与高端工控系统研发经验,加上自研AI开发平台,让匠数科技能够把算法快速做成标准化的软硬件产品,在边缘端实现较高的计算效率与识别准确率。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
盒谐系列的技术思路可以概括为“边缘计算+AI实时分析”。设备内置AI算法,不联公网也能独立运行,对屏幕播放内容进行不间断的实时分析。识别范围覆盖涉政、色情、赌博、暴恐、辱骂、敏感人物等类别,既能看画面,也能读图中的文字、视频中的字幕和网页内容。
一旦发现不良内容,设备会在内容上屏之前就进行拦截,切断播放并切换到预置的安全画面,同时向运维平台报警;内容恢复正常后自动恢复播放,全程无须人工干预。整个获取和检测过程对原有视频流是无损透传的,输出分辨率与输入一致,不影响正常内容播放。
准确率方面,盒谐产品委托公安部第三研究所做过检测,不良图片识别准确率达99.8%,正常图片识别准确率达99.9%。阈值还可以按场景调节,在查全和查准之间灵活取舍。
盒谐系列按场景分了几条产品线,各自解决不同的问题:
盒谐V系列(通用视频过滤):面向LED大屏、LCD拼接屏、投影仪等同步信号屏,支持HDMI、DVI、VGA接口,最高支持8K分辨率,串联在视频源与屏幕之间做终端防护。
盒谐E200(网络信息防护终端):面向单色、双色、全彩LED文字屏,比如公路情报板、诱导屏。设备带两个物理隔离的网口,串联在屏的网络入口,同时提供内容防护和网络安全防护。
盒谐W+AIFT(智能显示屏方案):针对广告一体机、电子班牌、叫号屏等一体化设备,通过W插件周期截屏送至AIFT智能计算中心集中检测。需要说明的是,W方案需要接入局域网,属于集中计算形态。
盒谐S系列(车站PIS过滤):面向地铁乘客信息系统,支持SDI、HDMI接口,对PIS视频流做实时检测与防护,在北京地铁等项目中已有落地。
盒谐T系列(车载PIS过滤):串联在列车播控器与媒体服务器之间,覆盖地铁、高铁车载屏。
盒谐B系列(智能播控):面向LCD/LED大屏播放主机和智慧显示终端。
除了终端拦截,匠数科技还提供发布端预审产品,思路是“先审后发”。
盒谐A100是集中式文字屏智能过滤器,通过播控画面和网络数据流双重机制,对播控主机下发的文字内容做预审,发现不良信息即报警并禁止转发。一台A100可支持50个点位并能弹性扩展,适合区域性银行网点、医院、学校文字屏这类集中管理的场景。
盒谐A300是多媒体中心审核服务器,通过API接口接收文件预审请求,对视频、图片、文档等常规多媒体文件做集中审核,反馈审核结果和报警事件,适合媒体分发、广告投放等中心化发布场景。
屏幕数量多、分布散,靠人工巡查成本高还有死角,这正是AIMG运维服务器要解决的问题。AIMG采用B/S架构,通过Web端对区域内所有盒谐设备做集中管理:实时查看设备状态、接收报警(短信、微信推送)、按类型和时间检索历史拦截记录(含问题截图和标注)、远程一键关屏、批量配置安全画面和敏感词库等。发布端预审、终端防护、AIMG平台加人工处置,共同构成一个闭环的防护体系。

公共显示屏内容安全防护的核心,是在不改动原有播控体系的前提下,加上一层能离线运行、实时拦截、集中运维的AI防护。匠数科技凭借多年AI算法积累和工程化落地能力,其盒谐系列产品覆盖了从文字屏、视频大屏到PIS系统、一体机的各类场景,并有交通、教育、金融、医疗等行业的实际项目验证。对于需要为公共显示屏加装“内容防火墙”的集成商和行业用户,匠数科技的盒谐系列是一个值得重点了解的选项。
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。