2025年10月31日 UL3115 人工智能产品安全性调查概述 期号:1 2025年10月31日 主题概要 2025年10月31日发布的《人工智能产品安全调查概要》（UL3115)第一版涵盖了人工智能产品的安全 性,这些产品可能包括具有人工智能功能或组件的软件产品。例如,用于机械的人工智能故障检测功能、用于 断路器的人工智能功能安全功能、用于暖通空调系统的人工智能设定点控制模块、视频摄像机中的人工智能 物体识别功能，或基于大型语言模型（LLM)的客户服务聊天机器人。 UL的《调查大纲》受ULLLC版权保护。任何形式的《调查大纲》印刷版或电子版均不得以任何方式修改。UL的所有《调 查大纲》及其所有版权、所有权和相关权利均归ULLLC独家所有。 @2025ULLLC AlTranslatedbyLan_GPT-5-26 UL3115 2025年10月31日 本页无文字 AITranslatedbyLanGPT-5-26 UL3115 2025年10月31日 内容 前言. 1范围. .92组成部 103计量单 位 ..114参考文 献. ..115术语 人工智能系统安全管理与保障 6总则.. .13 人工智能安全原则. .14 7总则. 稳健性和 8总则. .159主要考虑因 素. .1510一般准 则 ..1511要求和准 则. .1611.1数据质量和多样 性 .1611.2模型稳定性和性能监 控. ..1611.3模型稳定性和性能监 控. .1711.4错误处理和恢复机 制. .1711.5压力测试和对抗性攻击抵抗 力. ..1811.6验证和确认程 序.. 风险管理 19 12概述， 1913要求和指 南. 1913.1风险识别 (图) ..1913.2风险评估（测 量) .2013.3风险缓解（管 理) .2013.4风险监控和审查（治 理) 21 质量 14概述， .2115要求和指 南. 2115.1质量管理体系的建立 21 15.2设计控制和生命周期规划. .2215.3质量管理体系内的数据管 理. 2315.4文件编制和记录保存 ...23 15.5风险管理整合 .2315.6上市后监测和事件管 理.. 2315.7问责制和治理 ..24 15.8人工智能系统的产品质量要求 .24 AI Translated by Lan_GPT-5-26 UL3115 4 2025年10月31日 15.9用户可控性， .2515.10功能适应 .2515.11功能正确性， 25 15.12鲁棒性 2515.13透明 2615.14可干预性， 26 基于人工智能的功能 16概述 2617主要考虑因 素 .2718要求和指 2718.1概 述 2718.2AI组件的功能安全分 类. 2818.3AI集成的危险识别和风险评估 (HARA). 2918.4AI特有的故障模式分 析. 3018.5AI的功能安全概念和技术安全概 念 3118.6AI安全功能的验证和确 认. .3118.7运行时监控和退化管 .3218.8与V模型一致的结构化开 发. .34 公平性和 19概述， 3420主要考虑因 3521—般准则.. ..35 22要求和准则， 3522.1偏见识别. 22.2偏见缓解策略， 3622.3公平性测 试， 3622.4LLM的及时响应验证 37 22.5公平性和偏见的文档记录和报告 .37 数据隐私 38 23概述 3824主要考虑因 素. .3825一般准 则.. 3826要求和准 3926.1数据最小化和目的限 制. 3926.2数据最小化和目的限 制. 3926.3匿名化和假名化. .40 26.4安全存储和访问控制 .4026.5数据使用和负责任的共 享 .4126.6数据保留和删除 .42 26.7遵守数据隐私法规和标准 .42 控制与监督. 27概述.. .4328主要考虑因 4329一般准则 .44 30要求和准则 .4430.1用户控 制 4430.2人工干预流程 .45 AI Translated by Lan_GPT-5-26 UL3115 2025年10月31日 5 30.3警报机制 .4530.4访问控 制. 透明度和 31概述， .4732主要考虑因 素 .4733要求和指 南 .4834透明 度. ...4834.1要求和指 南 4835可解释 性 5235.1要求和指 .52 数据收集与 36概述 5537主要考虑因 素 .5538要求和指 5538.1建立数据治理框架， 55 38.2实施数据审计 强 .5638.4促进数据使用的透明 度. .5738.5纳入外部数据审 查 ...5738.6跨学科数据评估 ..58 文件编制和报告.. .59 39概述， 5940主要考虑因 素. .5941要求和指 南 .5941.1开发和设计文档. 59 41.2数据收集和分析记录 ..6041.3测试和评估报 41.5部署和监控日志. .6141.6事件和响应文 档， 生命周期 42概述 .6143主要考虑因 .6144一般准 则 6245要求和准 则 .6245.1开发阶 段 6245.2部署阶 段 6245.3运行和维护阶 段. .6345.4退役阶段 附件A（资料性附件）人工智能产品的性能监控方法. ..64 A1监测人工智能模型性能随时间变化的常用方法.. ..64 附件B（资料性附件）数据分布的统计分析方法.. ...65 AI Translated by Lan_GPT-5-26 UL3115 2025年10月31日 B1常用统计分析方法，用于评估不同数据集中的数据分布 变量,确保多样性代表性. ...65 附件C（资料性附件）偏差检测方法. C1评估数据集中潜在偏差的常用方法,例如人口统计平等性， 均等机会与不同影响.. 附件D（资料性附件）差距分析方法.. D1识别数据集中可能影响人工智能系统在实际场景中性能的任何差距或代表性不足场景的常用方 附件E（资料性附件） 编号要求... ..68 AITranslatedbyLan_GPT-5-26 UL3115 2025年10月31日 前言 人工智能（AI）的发展日新月异，其功能正被引入到广泛的消费品和工业产品中。这一发展历程中涌现出诸多重要里程碑，例如机器学习（ML）的出现、深 度学习（DL）技术的复兴以及生成式人工智能（GenAI）的兴起。这些进步已在各个领域得到应用，提升了人们的健康、便利性、生产力、效率和创新能力， 同时也带来了伦理考量和安全风险方面的新挑战。然而，如果人工智能被滥用或出现故障，可能会造成严重的伤害，无论是无意的还是有意的。这些系统 也容易受到恶意攻击,攻击者可以操纵其功能或泄露敏感数据。此外，训练不当的人工智能系统可能导致不道德的后果，尤其会对特定群体造成影响。不 安全的人工智能系统会带来诸多风险，例如人身伤害、经济损失、社会动荡以及公众对人工智能技术的信任度下降。 鉴于人工智能技术（包括近年来涌现的生成式语言模型和大型语言模型，例如OpenAI的GPT-4、Meta的LlaMa、Google的Gemini和Anthropic 的Claude)已迅速融入日常产品,追切需要解决使用人工智能技术的产品和服务所涉及的安全性和伦理问题。本调查纲要旨在明确一套评估人工智能产 品安全性的要求，以期在降低其部署风险的同时，充分发挥其优势。 本概要的主要目标是建立一个全面的框架，用于评估人工智能产品的安全性。该框架明确了必要的要求并提供指导原则，以确保这些产品使用安全，并符 合人工智能安全、法规和行业最佳实践的最高标准。本概要的方法评估数据处理协议、机器学习算法的性能、自适应训练方法、预测和决策过程，以及人工 智能系统的整体完整性和可靠性。 此外,本概要认识到人工智能产品面临的独特挑战，例如可靠性、稳健性、透明度、公平性、偏见和数据隐私等问题,并旨在通过系统化的评估流程来解决 这些问题。本概要也认识到人工智能安全标准和法规的动态性,并提出了适应性强、具有前瞻性的程序，以跟上技术进步的步伐。 本概要旨在为开展人工智能产品安全性的全面调查提供基础性指导,并提供一套结构化的方法论，用于评估产品是否符合不断发展的标准和法规。本概 要与ISO/IECJTC1/SC42和IEEE-SA等公认标准组织以及欧盟人工智能法案[EUAIAct2024]和欧盟GDPR[EUGDPR2018]等监管机构制定的现有 和即将出台的标准和方法论保持一致，从而确保评估过程的全面性和严谨性。 本纲要旨在弥合快速的技术进步与相应安全标准制定之间的差距，从而使人工智能产品不仅创新高效，而且安全、合乎伦理且值得信赖。建立人工智能系 统安全对于构建公众信任和确保负责任地应用有益的人工智能技术至关重要。 AITranslatedbyLan_GPT-5-26