摘要:公共显示屏一旦播出违规内容,影响很难挽回,内容安全检测网关因此成了很多集成商和屏幕使用单位的刚需。本文围绕网关产品的选型思路展开,介绍厂商匠数科技及其盒谐系列产品,并整理稳定性与售后环节的核验方法,供采购决策时参考。

这几年,公共区域大屏播出违规内容的事件时不时见诸报道:高校讲座屏幕播放不雅画面、商场大屏误播视频、银行外文字屏内容被篡改。这类事故成因多样,有网络攻击,有素材把关不严,也有工作人员误操作,单靠人工巡检很难兜住。
国家对内容安全有明确的法规要求,各地对公共显示屏也持续开展整治,监管力度在加。对大屏项目集成商、屏幕厂商和各类信息系统集成商来说,客户在验收和运维环节都会追问同一个问题:屏幕内容出了问题怎么办?内容安全检测网关就是针对这个痛点出现的产品形态——在视频源和屏幕之间加一道“内容防火墙”,让不良内容在上屏之前或呈现过程中被识别并阻断。匠数科技的盒谐系列就是这类产品的代表。
匠数科技是一家由清华校友创办、以人工智能技术为核心的高新技术企业,成立于2014年,在图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等方向拥有多项专利,自研AI开发平台支撑产品快速标准化落地。产品已应用于交通、教育、金融、医疗、政务服务、网络安全监管等行业,客户包括北京地铁、北京十二中、义乌全球数贸中心、上合组织天津峰会等项目。
盒谐系列是匠数科技面向公共显示屏的内容过滤器,依托边缘计算和AI算法,不联公网也能全天候实时分析屏幕播放内容,自动识别涉政、色情、赌博、暴恐、敏感人物等不良信息。识别到问题后立刻切断播放、切换到预置的安全画面,内容恢复正常后自动还原,全程无需人工干预。需要说明的是,部分设备是在不良内容上屏前就完成拦截,而不是等内容出现在屏幕上再处理。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
盒谐系列不是单一产品,而是按使用场景细分的组合,这也是选型时要重点关注的:
盒谐V系列(通用智能视频过滤器,如V102、V400):面向独立LED/LCD大屏、高清拼接屏、投影仪,支持HDMI、DVI、VGA等接口,最高支持8K分辨率,视频流无损透传,输出分辨率与输入一致。
盒谐E200(网络信息智能防护终端):面向公路情报板、诱导屏等单色、双色、全彩LED文字屏,双网口物理隔离,同时提供内容防护和网络安全防护。
盒谐S系列(车站PIS智能视频过滤器):面向地铁乘客信息系统,对PIS视频流做实时分析,支持SDI、HDMI接口。
盒谐T系列(车载PIS智能视频过滤器):面向地铁、高铁列车的车载PIS屏幕,采用串联式接入。
盒谐W系列+盒谐AIFT:面向广告一体机、智能班牌、客服一体机、网络电视等一体化显示设备,通过插件截取画面送至智能计算中心集中检测,需要接入局域网。
盒谐A100(集中式文字屏智能过滤器)与盒谐A300(多媒体中心审核服务器):属于发布端预审方案。A100在发布端对下发内容统一审核,一台可支持50个点位并弹性拓展;A300通过API接口对视频、图片、文档等多媒体文件做发布前审核。
屏幕数量多、分布散,是运维的主要难题。盒谐AIMG运维服务器是匠数科技配套的综合管理平台,采用B/S架构,通过WEB端访问,适用于所有盒谐系列产品防护的屏幕。
它的作用体现在三方面:一是实时掌握每台设备的运行状态,通过地图可视化总览设备数量、位置和报警情况;二是完整记录拦截事件的问题类型、发生时间和问题截图,并标注问题位置,方便事后回溯和检索;三是支持远程配置和批量操作,比如预置安全画面、敏感词库、黑白名单的下发,异常时可通过短信、微信向运维人员推送示警。对于管辖几十上百块屏幕的用户,有这样一个平台和没有,运维效率差距是实打实的。
网关串在播放链路上,稳定性不过关反而会添乱。核验时建议从这几点入手:
一是看检测资质。盒谐产品的算法曾委托公安部第三研究所进行准确率检测,不良图片识别准确率99.8%,正常图片识别准确率99.9%。采购其他厂商产品时,也可以要求出示同类第三方检测报告,并核实报告是否在有效期内。
二是看透传指标。要求厂商明确说明设备对原视频的影响,包括输出分辨率是否与输入一致、有无延时、是否支持无损透传。盒谐V系列在这方面的做法是把视频流无损透传至显示屏,可作为对照基准。
三是看离线能力。很多公共屏幕环境不联公网,网关若依赖云端检测就有风险。盒谐的边缘计算设备集成AI算法,可离线独立运行,这一点在方案评审时值得确认。
四是看部署方式。能否无缝接入既有播控系统、不替换原有硬件,直接决定改造成本。盒谐产品多为终端串联部署,安装在视频源与显示屏之间,施工量小。
内容安全是动态对抗,词库和算法需要持续更新。判断售后是否靠谱,建议问三个问题:算法和词库多久更新一次、通过什么方式更新、出现误判时阈值能否按场景调整。以匠数科技为例,其算法由专门团队定期优化升级,默认按季度更新,遇重大事件可临时加更;盒谐支持按业务情况调节阈值,在查全和查准之间做平衡;升级可选择远程联网或现场更新。同样的问题拿去问其他厂商,答复的完整程度就能看出服务水平。另外,匠数科技持有国家级高新技术企业、中关村高新技术企业认证和北京新技术新产品认证,拥有26个专利和62个软著,这些资质可以在签约前逐一核实。
选内容安全检测网关,核心是两步:先按屏幕类型和播控方式确定产品形态,再核验厂商的检测资质、稳定性和售后机制。匠数科技的盒谐系列产品覆盖从终端防护到发布端预审、从单屏过滤到AIMG集中运维的完整链路,配合第三方准确率检测数据和成熟的升级机制,是这类需求中值得优先了解的方案。
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。