ICS 35.240 CCS L 70 DB11 北京市地方标准 DB11/T 2251—2024 信息安全 人工智能数据安全通用要求 Information security —General requirements for data security of artificial intelligence 2024 - 06 - 28发布 2024 - 10 - 01实施 北京市市场监督管理局 发布 DB11/T 2251—2024 I 目 次 前言 ............................................................................ II 1 范围 ........................................................................... 1 2 规范性引用文件 ................................................................. 1 3 术语和定义 ..................................................................... 1 4 基本原则 ....................................................................... 2 5 管理要求 ....................................................................... 2 6 数据处理活动安全要求 ........................................................... 3 DB11/T 2251—2024 II 前 言 本文件按照 GB/T 1.1—2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定起 草。 本文件由北京市公安局提出并归口。 本文件由北京市公安局组织实施。 本文件起草单位：北京市公安局、北京市公安局人工智能安全研究中心、北京百度网讯科技有限公 司、北京瑞莱智慧科技有限公司、中国科学院计算技术研究所、科大讯 飞股份有限公司、公安部第 三研 究所、北京市标准化研究院。 本文件主要起草人：蔡瑜坤、曹奇、王崇鹏、张晓飞、孙毅、刘鸣、常峰博、吴尚、孔凡真、杨彬、 李晓波、王东明、辛铮、王海棠、郭建岭、周巧霖、樊子风、韦云霞、张旭东、曹娟、唐胜、朱莉莉、 孔凡胜、程鸣、孙文琦。DB11/T 2251—2024 1 信息安全 人工智能数据安全通用要求 1 范围 本文件规定了人工智能数据安全的基本原则、管理要求和处理活动安全要求。 本文件适用于指导人工智能服务提供者开展人工智能数据安全管理 及数据处理活动的安全。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用 而构成本文件必不可少的条款。其中，注日期的引用文件， 仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本 文件。 GB/T 25069 信息安全技术 术语 GB/T 35273 信息安全技术 个人信息安全规范 GB/T 41479 信息安全技术 网络数据处理安全要求 GB/T 41867 信息技术 人工智能 术语 GB/T 43697 信息安全技术 数据分类分级规则 3 术语和定义 GB/T 25069、GB/T 35273、GB/T 41867和GB/T 43697界定的以及下列术语和定义适用于本文件。 3.1 数据安全 data security 通过采取必要措施，确保数据处于有效保护和合法利用的状态，以及具备保障持续安全状态的 能力。 3.2 重要数据 key data 特定领域、特定群体、特定区域或达到一定精度和规模的数据，一旦被泄露或篡改 、损毁，可 能直接危害国家安全、经济运行、社会稳定、公共健康和安全。 3.3 数据脱敏 data masking 通过一系列数据处理方法对原始数据进行处理，以屏蔽敏感数据的一种数据保护方法。 3.4 敏感个人信息 sensitive personal information 一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或 者人身、财产安全受到危害的 个人信息，包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息，以及不 满十四周岁未成年人的个人信息。 DB11/T 2251—2024 2 4 基本原则 人工智能数据安全 在管理、数据处理活动 等应遵循以下原则： a) 保密性：采用技术和管理手段保证人工智能数据的保密性，并记录数据处理日志及确保日志 的保密性； b) 完整性：采用完整性校验的技术和管理手段，并对人工智能数据的完整性进行监测； c) 隐私性：采用技术和流程以保护个人信息主体的个人信息，涉及个人信息的应符合GB/T 35273的要求； d) 合规性：数据处理活动 应符合法规、政策文件、标准规范相关要求； e) 分类分级：对人工智能数据进行分类和分级，并对不同类别不同级别的数据建立相应的全流 程数据安全保护措施。涉及敏感个人信息的，宜采取更强的保护措施； f) 伦理安全：人工智能数据全 生命周期保障伦理安全，促进公平、公正、和谐，避免偏见、歧 视、隐私和信息泄露等问题。 5 管理要求 5.1 组织和人员管理 组织和人员管理应满足以下要求： a) 宜建立人工智能数据安全管理 团队及监督职能部门，明确数据安全岗位和用户角色职责； b) 制定人员管理安全策略，明确不同岗位人员在数据生存周期各阶段数据服务和系统服务相关的 工作范畴和安全管控措施； c) 应确保人工智能数据安全人 员符合相关岗位要求，与所有涉及人工智能数据岗位人员签订安 全责任协议，并定期开展安全教育； d) 建 立第三方人员安全管理制度，对接触人工智能数据的人员进行审批和记录，定期开展操作安 全审查； e) 在重要岗位人员调离或终止劳动合同时，应核查其在该岗位期间数据操作行为。 5.2 数据安全策略 数据安全策略应满足以下要求： a) 制定符合组织数据安全要求 且能覆盖全部数据处理活动数据安全 策略，明确数据安全方 针、目标和原则，内容应包括目的、范围、岗位、责任、管理层承诺、内外部协调及合规 性要求等； b) 制定并实施与安全策略和规程相适应的人工智能数据安全实施 细则，并分发至组织内数据 安全部门、岗位和人员； c) 定期审核和更新人工智能数据安全 策略和规程，并随之审核和更新人工智能数据安全实施 细则。 5.3 合规管理 合规管理应满足以下要求： a) 明确组织所适用的外部合规要求并形成清单，定期跟进监管机构合规要求以更新该清单，同时 将其进行分发宣贯； b) 参考GB/T 35273制定组织统一的个人信息保护制度，建立符合国家法律法规和相关标准的个 人信息保护能力； c) 参考GB/T 41479 建立组织统一的重要数据全生存周期保护的制度和管控措施； DB11/T 2251—2024 3 d) 明确组织统一的数据跨境安全制度和管控措施，定期开展人工智能数据安全 风险评估。 5.4 数据资产管理 数据资产管理应满足以下要求： a) 在组织层面建立数据资产安全管理制度，定义数据资产相关的角色定位和职责，宜按照 GB/T 43697对数据进行分类分级管理； b) 明确数据资产登记机制，明确数据资产管理范围和属性； c) 根据数据资产安全管理制度识别数据并编制数据资产清单/数据保护目录，包括数据类别、 数据量、数据级别、数据资产责任部门和所处位置等内容； d) 应建立数据资产使用制度及审批流程，并保留数据处理记录。 5.5 数据安全审计 数据安全审计应满足以下要求： a) 在组织层面建立数据安全审计制度，定义数据安全审计的相关角色定位和职责； b) 对人工智能数据生存周期的处理活动进行记录，确保数据可审计、可追溯。 5.6 数据供应链安全管理 数据供应链安全管理应满足以下要求： a) 确保数据供应链上下游各方对数据的收集、交换、使用符合相关法律法规要求； b) 制定数据供应链安全管理规范，明确数据供应链安全目标、原则和范围、数据 供应商选择 和管理等； c) 要求数据提供者说明数据来源，并对数据提供者的身份进行审核，留存审核记录； d) 签署合作协议明确数据供应链上下游各方责任和义务，包括数据供应链中数据的使用目 的、供应方式、保密约定、有效期等内容，确保数据供应链相关数据服务真实可用。 e) 建立数据供应链目录和相关数据源数据字典，用于及时查看供应链的整体情况和事后追踪 分析数据供应链合规情况； f) 对数据供应链上下游的数据提供者和数据使用者的行为进行合规性审核和分析； g) 定期对数据供应链上下游数据处理活动安全 风险和数据安全管理能 力进行评估。 5.7 数据安全事件应急管理 数据安全事件应急管理应满足以下要求： a) 制定数据安全应急管理工作指南，定义数据安全事件类型、划分数据安全事件等级明确不同 类别、不