ICS 35.240.01 CCS L 70 37 山东省 地方标准 DB37/T 4845—2025 人工智能技术应用伦理风险的治理要求 Governance requirements of ethical risks in the application of artificial intelligence technology 2025 - 05 - 24发布 2025 - 06 - 24实施 山东省市场监督管理局 发布 DB37/T 4845—2025 I 目次 前言 ................................................................................. II 1 范围 ............................................................................... 1 2 规范性引用文件 ..................................................................... 1 3 术语和定义 ......................................................................... 1 4 治理框架 ........................................................................... 2 5 治理原则 ........................................................................... 2 6 治理参与方 ......................................................................... 3 管理者 ......................................................................... 3 研发者 ......................................................................... 3 供应商 ......................................................................... 3 使用者 ......................................................................... 4 7 治理核心要求 ....................................................................... 4 以人为本 ....................................................................... 4 隐私保护 ....................................................................... 4 知情同意 ....................................................................... 4 安全可控 ....................................................................... 4 公平无歧视 ..................................................................... 5 透明可追溯 ..................................................................... 5 责任明确 ....................................................................... 5 技术中立性 ..................................................................... 6 监测与改进 ..................................................................... 6 教育与培训 .................................................................... 6 参考文献 .............................................................................. 7 DB37/T 4845—2025 II 前言 本文件按照GB/T 1.1—2020 《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定 起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由山东省工业和信息化厅提出并组织实施。 本文件由山东省人工智能标准化技术委员会归口。 DB37/T 4845—2025 1 人工智能技术应用伦理风险的治理要求 1 范围 本文件规定了人工智能技术应用伦理风险的治理框架、治理原则、治理参与方和治理核心要求。 本文件适用于人工智能技术应用伦理风险的研究以及人工智能系统的规划、设计等。 2 规范性引用文件 本文件没有规范性引用文件。 3 术语和定义 下列术语和定义适用于本文件。 人工智能 artificial intelligence ；AI <学科>人工智能系统相关机制和应用的研究和开发。 [来源：GB/T 41867 —2022，3.1.2] 伦理 ethics <人工智能> 开展人工智能技术基础研究和应用实践时遵循的道德规范或者准则。 [来源：GB/T 41867 —2022，3.4.8] 风险 risk 不确定性对目标的影响。 注1：影响是指偏离预期，偏离可以是正面的和/ 或负面的，可能带来机会和威胁。 注2：目标可有不同维度和类型，可应用在不同层级。 注3：通常风险可以用风险源、潜在事件及其后果和可能性来描述。 [来源： GB/T 24353 —2022，3.1] 人工智能系统 artificial intelligence system 针对人类定义的给定目标，产生诸如内容、预测、推荐或决策等输出的一类工程系统。 注1：该工程系统使用人工智能相关的多种技术和方法，开发表征数据、知识、过程等的模型，用于执行任务。 注2：人工智能系统具备不同的自动化级别。 [来源：GB/T 41867 —2022，3.1.8] 偏见 bias <人工智能> 对待特定对象、人员或群体时，相较于其他实体出现系统性差别的特性。 注1：对待指任何一种行动，包括感知、观察、表征、预测或决定。 注2：歧视是带有贬义色彩的偏见。 DB37/T 4845—2025 2 [来源：GB/T 41867 —2022，3.4.10，有修改 ] 4 治理框架 人工智能技术应用伦理治理框架由内向外分别由治理原则、 治理参与方、 治理核心要求三方面组成， 人工智能技术应用伦理治理框架见图 1，具体如下。 a) 治理原则：提出了实施人工智能技术应用伦理治理的基本指导原则，为识别提出人工智能技 术应用伦理治理的参与方和核心要求提供基础。 b) 治理参与方：识别了人工智能技术应用伦理治理过程中涉及的对象和主体，以及每类主体主 要的治理目标，包括人工智能技术应用管理者、人工智能技术研发者、人工智能产品与服务 供应商、人工智能产品与服务使用者等。 c) 治理核心要求：提出了人工智能技术应用伦理治理的核心要求，是伦理治理框架的关键组成 部分。 图1 人工智能技术应用伦理治理框架 5 治理原则 人工智能技术应用伦理治理原则包括以下内容。 a) 以人为本原则。人工智能技术应用应遵循人类共同价值观，尊重人权和人类根本利益诉求， 遵守国家或地区伦理道德，避免对人类造成伤害和歧视。 b) 公平公正原则。人工智能技术应用应遵循公平公正原则，尤其在提供人工智能产品和服务时， 应充分尊重和帮助弱势群体、特殊群体，避免产生不公平的结果或歧视，确保每个人都有平 等的机会和待遇。 c) 隐私保护原则。人工智能技术应用应充分尊重个人信息知情、同意等权利，依照合法、正当、 必要和诚信原则处理个人信息，保障个人隐私与数据安全，避免非法收集利用个人信息和侵 害个人隐私权。 DB37/T 4845—2025 3 d) 可控可信原则。人工智能技术应用始终处于人类控制之下，人类拥有充分自主决策权，有权 选择是否接受人工智能提供的服务，有权随时退出与人工智能的交互，有权随时中 止人工智 能系统的运行。 e) 责任担当原则。坚持人