ISO IEC 技术的 报告 ISO/IECTR5469 人工智能 一功能安全和人工 初版 智能系统 2024-01 智能人工一安全功能和智能人工系统 参考编号 iSO/IECTR5469:2024（欧洲标准） OISO/IEC 2024 ISO/IECTR5469:2024（欧洲标准） 版权保护文件 @ISO/IEC 2024 版权所有除非另有规定，或在其实施过程中有所要求，否则未经事先书面许可，不得以任何形式或任何方式复 制或使用本出版物的任何部分，无论是电子还是机械方式，包括影印或在互联网或内联网上发布。可以通过以 下地址向ISO或申请人所在国家的ISO成员机构申请许可。 ISO版权局 CP 40i Ch.de Blandonnet 8 日内瓦CH-1214游标 电话：+41227490111 Email:[email protected] 网址：www.iso.org 在瑞士出版 @国际标准化组织/IEC2024-版权所有 二 ISO/IEC TR5469:2024（欧洲标准） 内容 页 前言五 导言六 1范围1 2标准参考文献1 3术语和定义1 4缩写词4 5功能安全概述4 5.1概述4 5.2功能安全 6在电子/电子/聚乙烯安全相关系统中使用人工智能技术6 6.1问题描述 6.2E/E/PE安全相关系统中的人工智能技术6 7人工智能技术要素和三阶段实现原则10 7.1人工智能模型创建和执行的技术要素10 7.2人工智能系统的三阶段实现原则12 7.3推导实现原则三阶段的验收标准12 8铝系统的特性和相关风险因素13 8.1概述13 概述13 算法和模型13 8.2自动化和控制水平14 8.3透明度和可解释度15 8.4与环境相关的问题17 8.4.1环境的复杂性和模糊的规范17 8.4.2与环境变化有关的问题17 8.4.3与从环境中学习有关的问题18 8.5对抗恶意和故意恶意输入的弹性19 概述19 8.5.2一般缓解措施19 8.5.3模拟攻击：对抗性机器学习19 8.6人工智能硬件问题20 8.7技术的成熟度21 9验证和确认技术21 9.10概览21 9.2与核查和确认有关的问题22 9.2.1不存在先验规范22 9.2.2特定系统行为的不可分性22 9.2.3测试覆盖范围的限制22 9.2.4不可预测性 9.2.5漂移和长期风险缓解22 9.3可能的解决方案23 概述23 9.3.2数据分布与HARA的关系23 9.3.3数据准备和模型级确认和验证24 9.3.4铝指标的选择25 系统级测试25 9.3.6数据大小限制的缓解技术26 9.3.7注释和附加资源26 9.4虚拟和物理测试26 9.4.1概述 9.4.2虚拟测试的注意事项26 @国际标准化组织/IEC2024-版权所有 ISO/IECTR5469:2024（欧洲标准） 9.4.3物理测试的注意事项28 9.4.4对硬件随机故障脆弱性的评估29 9.5监控和事故反馈29 9.6关于可解释的A129的一个注释 10控制和缓解措施30 10.1概述30 10.2人工智能子系统架构考虑因素30 概述30 10.2.2切换检测机制30 10.2.3使用具有约束条件的监督功能来控制 系统在安全范围内33 10.2.4穴余、集合概念和多样性34 10.2.5带有统计评估的人工智能系统设计35 10.3提高含铝技术部件的可靠性35 10.3.1铝成分方法概述35 10.3.2稳健学习的使用35 10.3.3优化和压缩技术36 注意机制37 10.3.5数据和参数保护37 11流程和方法38 11.1概述38 11.2人工智能生命周期和功能安全生命周期之间的关系38 11.3人工智能阶段39 11.4文件和功能安全制品39 11.5方法39 概述39 故障模型39 11.5.3用于Al技术离线培训的PFMea40 附件（资料性）IEC61508-3对技术要素的适用性41 附件B（资料性）应用三阶段实现原则的例子54 附件C（资料性）核香和确认的可能程序和有用技术59 附录D（信息性）ISO/IEC5338和IEC61508系列之间的映射62 参考书目65 希腊字母的第4个字母 @国际标准化组织/IEC2024-版权所有 希腊字母的第4个字母 ISO/IECTR5469:2024（欧洲标准） 序 ISO（国际标准化组织）和IEC（国际电工委员会）构成了全球标准化的专门体系。作为ISO或IEC 成员的国家机构通过各自组织建立的技术委员会参与国际标准的制定，以处理特定领域的技术活 动。ISO和IEC技术委员会在共同感兴趣的领域进行合作。与ISO和IEC保持联系的其他政府和非政 府国际组织也参与此项工作。 ISO/IEC指令第1部分描述了用于编制本文件的程序以及用于进一步维护的程序。特别是，应注意 不同类型的文件需要不同的批准标准。本文件根据ISO/正C指令第2部分的编辑规则起草（见 www.iso.org/directives或www.iec.ch/members专家/参考文献）。 ISO和IEC提请注意本文件的实施可能涉及专利的使用。国际标准化组织和国际电工委员会对与此 相关的任何声称的专利权的证据、有效性或适用性不持任何立场。截至本文件发布之日，ISO和 IEC尚未收到实施本文件可能需要的专利通知。但是，实施者需要注意的是，这可能并不代表最 新信息，最新信息可以从www.iso.org/patents和https://patents.iec.ch的专利数据库中获得。ISO和 IEC不负责识别任何或所有此类专利权。 本文档中使用的任何商品名称都是为方便用户而提供的信息，并不构成认可。 有关标准自愿性质的解释、与合格评定相关的ISO特定术语和表述的含义以及有关ISO在技术性贸 易壁垒（TBT）中遵守世界贸易组织（WTO）原则的信息，请参见IEC中的 www.iso.org/iso/foreword.html和www.iec.ch/understanding-standards。 本文件由ISO/IECJTC1信息技术联合技术委员会人工智能小组委员会SC42编制。 有关本文档的任何反馈或问题都应提交给用户的国家标准机构。这些机构的完整清单可以在 www.iso.org/members.html和wwwiec.ch/national-committees找到。 @国际标准化组织/IEC2024-版权所有