ICS 35.240 GB CCS L 70 中华人民共和国国家标准 GB/T 46347—2025 人工智能 风险管理能力评估 Artificial intelligenceRisk management capability assessment 2025-10-05 发布 2025-10-05 实施 国家市场监督管理总局 发布 国家标准化管理委员会 GB/T 46347—2025 目 次 前言 II 引言 范围 1 规范性引用文件 2 3 术语和定义 人工智能风险管理能力框架与分级 4.1 人工智能风险管理能力框架 4.2 人工智能风险管理过程 人工智能风险管理能力等级 4.3 人工智能风险管理能力等级划分 4.4 4.5 人工智能风险管理能力项 5人工智能风险管理能力评估 人工智能风险管理策划能力评估 5.1 5.2 人工智能风险沟通能力评估 12 5.3 人工智能风险评估能力评估· 人工智能风险处理能力评估 5.4 17 5.5 人工智能风险监控能力评估 18 人工智能风险回顾能力评估 5.6 20 附录A（资料性） 推荐权重设置· 22 附录B (资料性) 风险源 23 附录C(资料性) 风险管理方法、工具与技术 25 参考文献 27 GB/T 46347—2025 前言 本文件按照GB/T1.1一2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定 起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由全国信息技术标准化技术委员会（SAC/TC28）提出并归口。 本文件起草单位：中国电子技术标准化研究院、中国科学院软件研究所、中科南京软件技术研究院、 上海商汤智能科技有限公司、中建科技集团有限公司、北京谋远咨询有限公司、上海市人工智能行业协 会、杭州半个宇宙科技有限公司、北京大学武汉人工智能研究院、海信集团控股股份有限公司、西门子 （中国)有限公司、中电信数智科技有限公司、同方知网数字出版技术股份有限公司、上海计算机软件技 术开发中心、北京瑞莱智慧科技有限公司、上海人工智能研究院、北京航空航天大学、科大讯飞股份有限 公司、浙江大华技术股份有限公司、北京邮电大学、中国民航信息网络股份有限公司、中国航空工业集团 沈阳飞机设计研究所、浪潮云信息技术股份公司、重庆国科础智信息技术有限公司、浪潮软件科技有限 公司、上海燧原科技股份有限公司、中国船舶集团有限公司综合技术经济研究院、电子科技大学、北京航 天自动控制研究所、中国兵器工业信息中心、郑州阿帕斯数云信息科技有限公司。 本文件主要起草人：范科峰、刘张宇、叶珩、董建、孟令中、徐洋、马骋昊、吴庚、曾涛、方亮、饶雪、 赵春昊、马珊珊、吴年京、辜凌云、方静、吴琪、薛云志、高卉、高峰、陈敏刚、陈文捷、刘畅、胡嵩智、赵玉霞、 陈曦、宋海涛、刘祥龙、刘艾杉、董乾、杨光、刘俊华、程淼、何召锋、翁家良、梅莹、郑佳佳、朱晓芳、陈利明、 郝立强、游洪峰、王士宁、杨彤晖、温晓玲、吴立金、李照川、王金超、姜梦岑、蒋燕、吴惠甲、李劲松、 于明亮、谢希、樊则森、傅文林、邓赛、陈贺、于红云、江维、李想、张天缘、王栓奇、张旭 GB/T 46347—2025 引言 “人工智能风险管理”是一个广泛的概念，它涵盖了与人工智能相关的所有风险的管理,包括但不限 于技术风险（如算法偏差、数据泄露等）、伦理风险（如算法歧视、意识形态侵蚀等）、应用风险（如系统被 黑客攻击、算法被用于欺骗等）和法律风险（如算法合规、知识侵权等）。 本文件主要关注组织在应用人工智能系统时的风险管理能力，这些风险可能涉及系统的稳定性、安 全性、性能以及与其他系统的兼容性等方面。人工智能系统的风险管理是为了确保系统能按预期运 行，并避免由于系统故障或漏洞而导致的潜在问题 本文件确定的风险管理过程，主要是在GB/T24353一2022图1展示的风险管理过程的基础上，充 分吸收ISO/IEC23894对人工智能风险管理过程的描述，考虑《人工智能安全治理框架》提及的风险 点，对组织风险管理时应当进行的活动，以及应具备的能力做了进一步细化。 V GB/T 46347—2025 人工智能 风险管理能力评估 1范围 本文件规定了组织的人工智能风险管理能力的级别与要求，描述了组织的人工智能风险管理能力 的评估方法。 本文件适用于指导评估人员对组织的人工智能风险管理能力进行评估。 规范性引用文件 2 本文件没有规范性引用文件。 3术语和定义 下列术语和定义适用于本文件。 3.1 人工智能 artificial intelligence 人工智能系统的机制和应用的研究与开发。 ［来源:GB/T41867—2022,3.1.2] 3.2 人工智能系统 artificial intelligence system 针对人类定义的给定目标,产生诸如内容、预测、推荐或决策等输出的一类工程系统 注1：该工程系统使用人工智能相关的多种技术和方法，开发表征数据、知识、过程等的模型，用于执行任务。 注2：人工智能系统具备不同的自动化级别。 ［来源:GB/T41867—2022,3.1.8] 3.3 风险risk 不确定性对目标的影响。 ［来源:GB/T23694—2024,3.1.1] 3.4 风险管理risk management 在风险方面指导和控制组织的协调活动。 ［来源:GB/T23694—2024,3.2.1] 3.5 风险源 risk resource 单独或组合有可能产生风险的元素。 [来源:GB/T236942024,3.3.10 3.6 能力域 capability domain 风险管理过程框架中相关过程的集合。 1