GB/T39574-2020
智能终端内容过滤技术要求
Technicalrequirementsforcontentdecencyofsmartterminal
- 中国标准分类号（CCS）M30
- 国际标准分类号（ICS）33.050.01
- 实施日期2021-07-01
- 文件格式PDF
- 文本页数11页
- 文件大小770.58KB
以图片形式预览智能终端内容过滤技术要求
智能终端内容过滤技术要求
国家标准 GB/T39574一2020 智能终端内容过滤技术要求 Iechniealrequirementsforeontentdeeeneyofsmartterminal 2020-12-14发布 2021-07-01实施 国家市场监督管理总局 发布 国家标涯花管理委员会国家标准
GB/T39574一2020 目 次 前言 引言 范围 2 术语和定义、缩略语 2.1术语和定义 2.2缩略谓 3 概述 3.1智能终端内容过滤架构 3.2实现方式 3.3过滤方式 3.4过滤渠道 3.5过滤内容 功能要求 4.1数据库要求 4.2过滤功能要求 4.2.1邮件过滤 4.2.2短信过滤 4.2.3彩信过滤 1.2.！电话过滤 .2.无线传输过迪 42.
发送过滤 .2？文字过谜 4.2.8图像过滤 4.2.9音频过滤 4.2.1o视频过滤 4.2. 网址过滤 4.2.12下载过滤 4.3过滤管理功能要求 4.3.1权限管理 4.3.2日志管理 4.3.3过滤规则 性能要求 5.1准确性 5.2安全性 5.3资源占用率 参考文献
GB/39574一2020 前 言 本标准按照GB/T1.1一2009给出的规则起草
请注意本文件的某些内容可能涉及专利
本文件的发布机构不承担识别这些专利的责任
本标准由工业和信息化部提出
本标准由全国通信标准化技术委员会(SAC/TC485)归口
本标准起草单位;信息通信研究院、高通无线通信技术()有限公司、真珍斑马技术(上海 贸易有限公司、联想移动通信科技有限公司
本标准主要起草人:陈婉莹、姚一楠、董霁、翟世俊、王宇晓、王嘉义、杜志敏、翁元,李欣
GB/T39574一2020 引 言 智能终端搭载智能操作系统,支持应用程序安装和卸载,支持数字广播电视,支持公共互联网业务 支持多终端之间的内容分发、资源共享等
智能终端将可以访问、处理公共互联网、电信网以及电视网 的内容,同时支持多种无线传输协议,传统的无论是基于PC终端的互联网内容过滤技术,基于移动终 端的互联网内容过滤技术还是网关型互联网内容过滤技术仅仅对支持部分网络协议的部分内容进行管 理和控制,难以杜绝智能终端中的淫秽,色情、反动等不良信息,对青少年的健康成长造成极大隐患,由 不良信息引发的犯罪时有发生且呈上升趋势
如何实现对更大范围内有害内容的控制,保护未成年人 的健康上网,已成为整个社会,学校,家庭所关注的急需解决的问题
同时,大量在移动网中传播的诈骗 信息也会进人智能终端,不单是青少年儿童,对成年人也会造成很大影响
为此,有必要提出智能终端 的内容过滤技术要求,规范智能终端的内容过滤产品,维护消费者利益
制定智能终端的内容过滤标准是从技术角度出发,规范信息内容过滤产品,指导和引导内容过滤技 术的发展,为防范来自公共互联网,、电信网以及电视网的不良信息侵扰,净化网络空间,营造绿色上网环 境,推动绿色上网行动提供有效的技术手段
GB/39574一2020 智能终端内容过滤技术要求 范围 本标准规定了针对智能终端的文本过滤、,网址过滤,图像过滤、视频过滤、音频过滤等内容过滤技术 的功能要求及性能要求
本标准适用于以内容分发为主要业务的智能终端,也可作为其他类型智能终端内容过滤产品的 参考
2 术语和定义、缩略语 2.1术语和定义 下列术语和定义适用于本文件
2.1.1 智能终端sartterminal 具有多媒体和支持数据方面功能的智能设备
2.1.2 语义分析方法semantieanalysismethod 通过对所使用语言的语义倾向和所涉及的场景两个维度分析来综合判断文本类型的方法
注，语义倾向直接从词语的语义获得,场景从情景框架获得,即在敏感词语判断的基础上通过情景框架分析进行言 语模式的判断,进而判定文本类型
2.1.3 不良信息malignantinformation 淫秽色情、暴力、赌博、毒品等危害身心健康的信息
2.1.4 侵权信息infri iingementinformation 扰乱经济秩序和社会秩序的虚假信息,以及侵害他人名誉、隐私,知识产权和其他合法权益的信息
2.1.5 犯罪信息erimeinformation 涉及实施诈骗,制作或者销售违禁物品、管制物品以及其他违法犯罪活动的信息
2.1.6 违法信息ilegalinfor mation 危害国家安全,荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家,破坏国家统一 宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视的信息
2.2缩略语 下列缩略语适用于本文件
ernetProtocol IP;网络之间互连的协议(Inte NFC:近场通信(NearFieldCommunication) URL;统一资源定位符(UniformResourcel.ocator)
GB/T39574一2020 LocalAreaNetwork wLAN;无线局域网(wirelessl 概述 3.1智能终端内容过滤架构 图1为智能终端内容过滤框架,主要包括6个部分;实现方式、过滤渠道、过滤功能、过滤方式过滤 内容、过滤管理
实现方式包括预置软件实现和操作系统实现;过滤渠道主要包括云端过滤和本地过 滤;过滤功能主要包括通信过滤、多媒体过滤、网络过滤;过滤方式主要包括名单过滤和内容过滤;过滤 内容主要包括相关行业或国家规定内容和自定义内容;过滤管理主要包括权限管理、日志管理、过滤 规则 过滤渠道 过滤内容 过滤管理 权限管理 相关行业或国家规定 自定义 过滤方式 管理员 普通 云端 内容过滤 关键词过滤 语义分析过滤 多媒体识别过谜 日志管理 名单过滤 网址过滤 号码过滤 使用 配置 过诚 日志 百志 日志 过滤功能 本地 网络 通信 多媒体 文字 音频 邮件 电话 网址 过滤规则 无线 阳像 视频 彩信 下 短信 只允许 白名单 黑名单 访问名 实现方式 预置软件 操作系统 图1智能终端内容过滤框架 3.2实现方式 智能终端内容过滤可通过预置软件实现或通过操作系统实现,如能满足功能要求也可通过其他方 式实现 通过预置软件实现是指在智能终端中预置过滤软件作为实现过滤功能的主体,智能终端可无 智能操作系统 通过操作系统实现是指智能终端在操作系统中融人过滤功能,用户可直接使用操作系统对信 息进行过滤
3.3过滤方式 智能终端内容过滤方式应包括名单过滤和内容过滤两种 名单过滤是指通过对网址(包括域名,URL或IP地址等)与号码的识别,将其与指定名单进行
GB/39574一2020 比对、判断,从而过滤内容的方式; 内容过滤是指对指定内容进行分析、识别,从而拦截指定内容的方式,内容过滤应包括关键词 过滤,还可包括语义分析过滤、多媒体识别过滤等 关键词过滤是指在文本中匹配关键词,根据定义的关键词过滤规则认定是否为禁止的 内容; 语义分析过滤是指采用语义分析的方法对内容进行实时扫描,过滤被禁止的内容; 多媒体识别过滤是指对图像、音频、视频等多媒体内容进行特征分析、特征提取,并利用模 式识别和模糊匹配技术与特征数据库中的特征进行相似性匹配判决,对符合匹配条件的 内容进行过滤,从而拦截被禁止的内容
3.4过滤渠道 智能终端内容过滤渠道应包括云端过滤和本地过滤两种 云端过滤是指智能终端通过软件或操作系统等实现方式与云端数据库进行交互,以获得过滤 判断依据的过程; 本地过滤是指智能终端通过软件或操作系统等实现方式与本地数据库进行交互,以获得过滤 判断依据的过程
3.5过滤内容 智能终端过滤内容应包括相关行业或国家规定内容和自定义内容两种 相关行业或国家规定内容指在相关行业或国家规定中禁止传播的内容,可考虑不良信息、侵权 信息、犯罪信息、违法信息等,具体参考相关行业或国家标准规定 自定义内容是指用户在使用智能终端的过程中自己输人的过滤内容或非过滤内容,并以此内 容作为过滤判断的依据
功能要求 4.1数据库要求 应建立数据库,数据库建设可包括网址库、号码库、信息关键词库、语义分析知识库、多媒体特征 库等
如是通过本地数据库比对,应提供数据库升级功能
数据库记录应无重复,能定期增加新发现的记录,能定期删除过期和无效的记录,宜采用加密格式
数据库建设应考虑用户适用性,除相关行业或国家标准规定禁止内容外,应提供用户自定义过滤
数据库应有良好的扩展性,能随着业务能力变化而相应扩展过滤领域
4.2过滤功能要求 4.2.1邮件过滤 如智能终端具备接收邮件功能,应对收到的邮件文本信息进行分析计算,宜对图像信息、音频信息、 视频信息进行计算分析,通过计算结果判断当前邮件是否含有需过滤内容,如含有需过滤内容则应进行 拦截或删除 4.2.2短信过滤 如智能终端具备接收短信功能,应对收到的短信进行分析计算,通过计算结果判断当前短信是否含
GB/T39574一2020 有需过滤内容,如含有需过滤内容则应进行拦截或删除
4.2.3彩信过滤 如智能终端具备接收彩信功能,应对收到的彩信文本信息进行分析计算,宜对图像信息、音频信息、 视频信息进行计算分析,通过计算结果判断当前彩信是否含有需过滤内容,如含有需过滤内容则应进行 拦截或删除
4.2.4电话过滤 如智能终端具备接收电话功能,应对收到的电话号码进行分析,通过结果判断当前电话是否需要过 滤,如需过滤则应进行拦截
4.2.5无线传输过滤 如智能终端具备无线传输接收功能(如wLAN、蓝牙,NFC等),宜对通过无线传输收到的内容进 行分析计算,通过计算结果判断是否含有需过滤内容,如含有需过滤内容则应进行拦截或删除
4.2.6发送过滤 如智能终端具备内容分发功能,应对分发的文本信息进行分析计算,宜对图像信息、音频信息、视频 信息进行计算分析,通过计算结果判断是否含有需过滤内容,如含有需过滤内容则应禁止分发或删除 内容 4.2.7文字过滤 应对输人或显示在智能终端上的文本信息内容进行分析、识别,应拦截需过滤内容
4.2.8图像过滤 宜对输人或显示在智能终端上的图像信息内容进行分析,识别,应拦截需过滤内容
图像类型包括JPEG、PNGBMP和GIF等图片格式
4.2.9音频过滤 宜利用音频识别技术,对播放的声音进行分析计算,通过计算结果判断是否含有需过滤内容,如含 有需过滤内容则应进行拦截
4.2.10视频过滤 宜利用图像识别技术,对屏幕上出现的视频(包括流媒体)进行分析计算,通过计算结果判断该当前 画面是否含有需过滤内容,如含有需过滤内容则应进行拦截
4.2.11网址过滤 应提供对网址(包括域名,URL或P地址)进行过滤的功能,应拦截对不良网址的访问请求 4.2.12下载过滤 应能对下载的文件名进行分析计算,通过计算判断下载的文件是否含有需过滤内容,如含有需过滤 内容则应进行拦截或删除
GB/39574一2020 4.3过滤管理功能要求 4.3.1权限管理 应设置有产品管理员权限
产品管理员有权对过滤功能进行设置,添加、删除和修改关键词和其他操作等
产品管理员所能进 行的操作一般有,但不限于 更改管理密码; -开启,关闭全部或部分过滤功能 查阅,删除日志; -舔加、删除和修改过滤产品的安全策略,安全策略包含文本信息的关键字、网址、图像特征设 置等
过滤产品应提供对产品管理员进行身份鉴别的功能
身份鉴别方式应采用但不限于口令、生物识 别等
过滤产品只能在产品管理员权限下终止运行和卸载
4.3.2 日志管理 过滤产品应具备下列日志管理功能 日志数据生成;应至少能对正常使用日志、,过滤和拦截日志、设置修改日志事件生成日志,应在 每一个日志记录中记录事件发生的时间、事件描述 日志查询;应提供对日志记录的查询功能,除产品使用者可查看自己设置过滤内容的过滤和拦 截日志外,只允许管理员查询日志记录; -日志导出或存档;应提供对日志记录的导出、存档功能,且只允许管理员导出、存档日志记录; 日志删除或清空;应提供对日志记录的删除,清空功能,且只允许管理员删除、清空日志记录; 日志的统计功能:可以对上述日志信息进行统计 日志存储时间设定;应提供对日志的存储时间进行设定的功能,且只允许管理员设定日志存储 时间
4.3.3过滤规则 过滤规则可以采用但不限于以下三种手段,且可以通过多种手段协作实现: 黑名单;通过人工添加的办法设定一些内容需要过滤; 白名单;通过人工添加的办法设定除相关行业或国家标准规定禁止内容外的一些内容永远不 被过滤产品过滤和拦截; -只允许访问:开启此选项,使得只能访问“只允许访问名单”中的内容,其他内容需过滤
产品使用者可人工添加黑名单、白名单和只允许访问名单,可人工删除和修改产品使用者添加的黑 名单、白名单和只允许访问名单;产品管理员可人工添加、删除和修改黑名单、白名单和只允许访问名 单,产品使用者定义的除外
性能要求 5.1准确性 准确率、漏判率、误判率是评价准确性的常用指标 -准确率是指正确判断应过滤内容的概率;
GB/T39574一2020 -漏判率是指将应过滤内容错误判断为合法内容的概率; -误判率是指将合法内容错误判断为应过滤内容的概率
准确率至少应高于90%,漏判率和误判率均不得高于10% 5.2安全性 不应给智能终端操作系统引人新的安全漏洞
不应未经用户同意收集以及上传用户数据
不应超出过滤范围获取智能终端权限
如过滤以预置软件形式进行,宜以后台进程方式运行,不能被未授权终止,卸载或删除
没有特定 的产品管理员账号或者特定的硬件,无法终止、卸载或删除过滤软件
5.3资源占用率 资源占用率指过滤功能耗费的智能终端资源,包括CPU、内存以及安装基本产品所需要的存储空 间大小
过滤功能运行的资源占用率应不影响智能终端其他功能正常使用
GB/39574一2020 参考文献 [1]YDN138一2006基于PC终端的互联网内容过滤软件技术要求 [[2]YD/T2054一2009wAP网关内容过滤技术要求
智能终端内容过滤技术要求GB/T39574-2020解析
GB/T39574-2020是我国针对智能终端内容过滤技术制定的标准，该标准规定了智能终端内容过滤的基本要求和技术指标，包括内容分析与识别、算法评估、效果测试等方面的内容。此标准的制定旨在提高智能终端的安全性和可控性，保护用户的合法权益。
根据GB/T39574-2020标准，智能终端的内容过滤需要具备以下特点：
- 精准识别：通过深度学习、自然语言处理等技术手段，将网页内容、图片、视频等进行精准的分类和识别，避免误报和漏检；
- 可控性强：支持多维度的用户管理，可以根据不同用户的需求和偏好进行差异化设置；
- 智能升级：具备动态学习和自我适应的能力，能够随着网络环境和用户需求的变化不断优化算法，提高过滤效果；
- 数据安全：对用户隐私信息和敏感数据进行有效保护，确保用户的权益不受损害。
值得注意的是，在内容过滤技术的实际应用中，需要考虑到以下问题：
- 技术的可行性和稳定性；
- 如何处理网络中存在的“灰色地带”信息，即既不属于合法信息，也不属于非法信息的信息；
- 如何平衡过滤效果和用户体验之间的矛盾，避免过度过滤导致误杀；
- 如何解决跨平台、跨设备的内容过滤问题，保证在多样化的智能终端中都能够有效地过滤有害信息。
总之，GB/T39574-2020标准的制定为智能终端内容过滤技术提供了一个科学、规范和统一的标准，使得过滤技术更加精准、安全和可靠。在实际应用中，需要专业人士根据标准要求和实际需求进行合理选择和配置，以期达到最佳的过滤效果。
