ICS 35.030 CCS L 80 31 上 海 市 地 方 标 准 DB 31/T 1560—2025 互联网信息内容安全审核能力通用要求 General requirements for internet information content security censor capabilities 2025-03-26发布 2025-07-01实施 上海市市场监督管理局 发 布 DB 31/T 1560 —2025 I 目 次 前言 ................................................................................. II 1 范围 ............................................................................... 1 2 规范性引用文件 ..................................................................... 1 3 术语和定义 ......................................................................... 1 4 等级划分与要求 ..................................................................... 2 5 技术能力 ........................................................................... 2 违法和不良信息检测能力 ......................................................... 2 违法和不良信息过滤能力 ......................................................... 3 违法和不良信息溯源能力 ......................................................... 4 违法和不良信息处置能力 ......................................................... 4 6 管理能力 ........................................................................... 4 组织机构 ....................................................................... 4 人员 ........................................................................... 4 信息内容审核 ................................................................... 5 信息源及用户分类 ............................................................... 5 监测预警与应急处置 ............................................................. 5 附录 A（资料性） 违法和不良信息的主要类型 ............................................. 7 附录 B（规范性） 互联网信息内容安全审核能力要求 ....................................... 8 参考文献 ............................................................................. 10 DB 31/T 1560 —2025 II 前 言 本文件按照GB/T 1.1—2020《标准化工作导则 第1部分:标准化文件的结构和起草规则》的规定起 草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由上海市互联网信息办公室提出并组织实施。 本文件由上海市信息安全标准化技术委员会归口。 本文件起草单位：上海市信息安全测评认证中心、中国科学院信息工程研究所、上海东方报业有限 公司、支付宝（中国）网络技术有限公司、上海携程商务有限公司、上海幻想七猫数字技术有限公司、 上海盒马网络科技有限公司、上海宽娱数码科技有限公司、行吟信息科技（上海）有限公司、东方财富 信息股份有限公司、上海任意门科技有限公司、公安部第三研究所、上海喜马拉雅科技有限公司、上海 观察者信息技术有限公司、上海米哈游网络科技股份有限公司。 本文件主要起草人：李宏达、徐御、俞露婷、俞佳敏、化嘉仪、何极、范劭林、张潇丹、黄杨、林 冠辰、吴梦楠、王业元、丁吕瑾、侯金龙、朱厚真、陈云鹏、韩嘉巍、丁治国、娄向文、李建辉、杨梦 楚。 DB 31/T 1560 —2025 1 互联网信息内容安全审核能力通用要求 1 范围 本文件规定了互联网信息内容安全审核能力的等级划分与要求、技术能力、管理能力等要求。 本文件适用于上海地区互联网信息服务提供者开展信息内容安全审核能力建设，本市监管部门、 第 三方机构进行监督管理和评估时可参考使用。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。 其中， 注日期的引用文件， 仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本 文件。 GB/T 40645—2021 互联网信息服务安全通用要求 3 术语和定义 GB/T 40645—2021界定的术语和定义适用于本文件。 互联网信息服务 internet information service 基于信息发布、交互、传播等相关技术和功能属性，通过互联网面向社会公众提供的信息服务。 注:互联网信息服务常见形式包括内容发布、评论评价、信息分享、推荐推送、内容搜索、通信群组、网络直播等。 [来源：GB/T 40645—2021，3.1] 信息源 information source 互联网信息服务中信息的提供者及信息内容。 [来源：GB/T 40645—2021，3.8] 互联网信息服务用户 internet information service user 使用互联网信息服务的个人或组织。 [来源：GB/T 40645—2021，3.10] 互联网信息服务提供者 internet information service provider 为用户提供互联网信息服务的组织或机构。 [来源：GB/T 40645—2021，3.11] 深度合成技术 deep synthesis technology 利用深度学习、虚拟现实等生成合成类算法制作文本、图片、音频、视频、虚拟场景等网络信息的 技术。 DB 31/T 1560 —2025 2 互联网信息内容安全审核能力 internet information content security censor capabilities 互联网信息服务提供者检测、过滤、溯源和处置违法和不良信息的能力。 检测能力 technical detection capabilities 计算机或系统检出并识别文本、图片、音频和视频信息的能力。 违法和不良信息 illegal and harmful information 违反法律法规和影响网络生态健康的信息。 注:违法和不良信息的主要类型见附录A。 召回率 recall 对于给定的数据集，违法和不良样本判断正确的数量占违法和不良样本数量的比率。 精确率 precision 对于给定的数据集，违法和不良样本判断正确的数量占判断为违法和不良样本数量的比率。 4 等级划分与要求 本文件将互联网信息服务提供者的信息内容安全审核能力划分为两个等级，分别是基本级和增强 级。互联网信息服务提供者应根据其企业规模、业务范围和用户规模等情况确定信息内容安全审核能力 等级，见表1。 表 1 互联网信息内容安全审核能力等级划分 分级要素 审核能力等级 基本级 增强级 企业规模 小、微型企业 √ - 中型企业 - √ 大型企业 - √ 业务范围 文字 √ - 图片 √ - 音视频 - √ 用户规模 100 万及以下 √ - 100 万以上 - √ 互联网信息服务提供者确定审核能力等级后，应按照附录B中的要求进行信息内容安全审核能力建 设。 5 技术能力 违法和不良信息检测能力 DB 31/T 1560 —2025 3 5.1.1 文本检测能力 5.1.1.1 应具备对汉语、英语等常用语言的检测能力。 5.1.1.2 宜具备对方言、小语种等非常用语言的检测能力。 5.1.1.3 应具备对变形的文本检