ICS 35.040 CCS L 71 团体标准 T/AI 131.2—2025 Artificial intelligence — Operater interface—Part 2: Neural network operator人工智能 算子接口 第2部分：神经网络类 s 2025 - 04 - 27发布 2025 - 04 - 27实施 中关村视听产业技术创新联盟 发布 T/AI 131.2-2025 全国团体标准信息平台 T/AI 131.2-2025全国团体标准信息平台 版权保护文件 版权所有归属于该标准的发布机构，除非有其他规定，否则未经许可，此发行物及其章节不得以其 他形式或任何手段进行复制、再版或使用，包括电子版，影印件，或发布在互联网及内部网络等。使用 许可可于发布机构获取。 T/AI 131.2-2025 全国团体标准信息平台 T/AI 131.2-2025全国团体标准信息平台 T/AI 131.2—2025 I 目 次 前言 ................................ ................................ .................. II 引言 ................................ ................................ ................. III 1 范围 ................................ ................................ ................ 1 2 规范性引用文件 ................................ ................................ ......1 3 术语和定义 ................................ ................................ .......... 1 4 缩略语 ................................ ................................ .............. 2 5 总则 ................................ ................................ ................ 2 6 数据结构 ................................ ................................ ............ 2 7 神经网络类算子接口 ................................ ................................ ..2 7.1 接口列表 ................................ ................................ ........ 2 7.2 接口功能和参数 ................................ ................................ ..3 7.3 算子接口最小集 ................................ ................................ 109 附录A（资料性） 神经网络类算子接口 C语言参考定义示例 ................................ 111 A.1 数据结构 ................................ ................................ ........ 111 A.2 神经网络类算子接口 ................................ .............................. 111 T/AI 131.2-2025 全国团体标准信息平台 T/AI 131.2-2025 II 前 言 本文件按照 GB/T 1.1-2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定起 草。 本文件为 T/AI 131《人工智能 算子接口》的第 2部分。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由新一代人工智能产业技术创新战略联盟 AI标准工作组提出。 本文件由中关村视听产业技术创新联盟归口。 本文件起草单位：北京大学、北京大学长沙计算与数字经济研究院、中国电子技术标准化研究院、 鹏城实验室、中国科学院软件研究所、北京百度网讯科技有限公司、华为技术有限公司、 长沙壹零壹壹 科技有限公司、 中科寒武纪科技股份有限公司、上海商汤智能科技有限公司、浪潮电子信息产业股份有 限公司、北京交通大学。 本文件主要起草人：杨超、陈军、胡晓光、勾海鹏、马艳军、范睿博、李克森、段炼、鲍薇、杨雨 泽、贾梦珠、李敏、黎子毅、于佃海、 关贺、胡帅、赵海英、高翔、马珊珊、高铁柱、吴庚、 王丽、郑 若琳、唐轶男、李卉、 宋文林、栾晓旭、 陈恺、刘文枫、陈德良、王新民、 沈芷月、高歌、刘伟、聂简 荻、杨征、冯海军、汪群博。 T/AI 131.2-2025 全国团体标准信息平台 T/AI 131.2—2025 III 引 言 近年来，我国人工智能行业发展呈现繁荣态势，相关软件和硬件均向多元化发展，云服务器、边缘 设备、终端设备等不同类型的处理器层出不穷，与此同时，各类计算库、中间表示工具以及编程框架也 呈现百花齐放的态势。 AI软硬件的极大丰富，为应用的高效部署提供了诸多便利，但同时也带来了多样 化、复杂化、碎片化的挑战。一方面， AI软件从业者需要考虑软件与各种不同主流人工智能处理器之间 的适配，花费大量精力提升软件的可移植性，另一方面，每一款 AI硬件的研发，都必须从底层对常用人 工智能软件提供支持，否则难以融入现有的软件生态。这种 M*N级别的软硬件映射关系，已经逐渐发展 成桎梏人工智能应用发展的一大障碍。 T/AI 131 《人工智能 算子接口》拟由五个部分构成。 ——第1部分：基础数学类。目的在于确立适用于人工智能算子接口的总则与核心数据结构，以及人工智能算子是构建人工智能应用的基础运算，是相关硬件操作的封装，人工智能软件通过调用算 子接口来使用硬件资源完成计算，算子接口是人工智能软硬件衔接的桥梁。制定7$, 131《人工智能 算子接口》，是对人工智能算子的核心数据结构、功能和接口参数的规范化和标准化，是降低人工智能 软硬件适配难度、促进生态建设的基础性工作。 规范基础数学类算子接口的基本功能和参数的要求。 ——第2部分：神经网络类。目的在于规范神经网络类算子的基本功能和参数的要求。 ——第3部分：机器学习类。目的在于规范机器学习类算子的基本功能和参数的要求。 ——第4部分：大模型类算子。目的在于规范大模型类算子的基本功能和参数的要求。 ——第5部分：自动化测试框架。目的在于为算子接口提供自动化测试方法和参考实现，验证算子 开发标准符合性。 T/AI 131.2-2025 全国团体标准信息平台 T/AI 131.2-2025全国团体标准信息平台