ICS 33.040.40 CCS M32 YD 中 华 人 民 共 和 国 通 信 行 业 标 准 YD/T xxxx-xxxx AI服务器及能力平台测试方法 Test specifications for AI servers and capability platforms （报批稿） 中华人民共和国工业和信息化部 发 布xxxx-xx-xx发布 xxxx-xx-xx实施YD/T xxxx—xxxx II目 次 前 言 .............................................................................. III 1 范围 .................................................................................. 4 2 规范性引用文件 ........................................................................ 4 3 术语、定义和缩略语 .................................................................... 4 3.1 术语和定义 ........................................................................ 4 3.2 缩略语 ............................................................................ 5 4 测试环境 .............................................................................. 5 4.1 参考硬件配置 ...................................................................... 6 5 AI通用平台测试 ....................................................................... 7 5.1 平台技术架构 ...................................................................... 7 5.2 数据集及预处理类 .................................................................. 9 5.3 数据标注业务 ..................................................................... 10 5.4 模型开发业务 ..................................................................... 11 5.5 模型推理业务 ..................................................................... 13 5.6 深度学习工具类 ................................................................... 14 5.7 运营管理业务 ..................................................................... 16 5.8 平台安全性 ....................................................................... 19 5.9 平台可靠性 ....................................................................... 20 5.10 平台扩展性 ...................................................................... 22 5.11 通用AI能力 ..................................................................... 22 6 AI服务器测试 ........................................................................ 23 6.1 产品信息检验 ..................................................................... 23 6.2 基本配置检验 ..................................................................... 23 6.3 可靠性测试 ....................................................................... 29 6.4 性能测试 ......................................................................... 29 6.5 能耗测试 ......................................................................... 30 YD/T xxxx—xxxx III前 言 本文件按照 GB/T1.1-2020 《标准化工作导则 第1部分：标准化文件的结构和起草规则 》的规定起草 。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别这些专利的责任。 本文件由中国通信标准化协会提出并归口。 本文件起草单位：中国信息通信研究院、中国电信集团有限公司、 北京百度网讯科技有限公司 本文件主要起草人：郭亮、高飞、赵继壮、李士保、陈子开、谢丽娜、李洁、王峰、郑超、程帅 、 康亚京、 张学聪、 王少鹏、盛凯、芦帅、郑常奎、贾冠一、张巧月YD/T xxxx—xxxx 4AI服务器及能力平台测试方法 1　范围 本文件规定了 AI服务器及其所承载的 AI能力平台的测试方法 ，主要包括服务器和平台两个方面 。服 务器方面包含对 AI服务器基本配置检验、功能、性能、可靠性、 能耗等各方面的测试方法 ；平台方面主 要包含对技术架构、功能、安全性、可靠性等各方面的测试方法。 本文件适用于对 AI服务器及配套 AI能力平台的测试选型。 2　规范性引用文件 本文件没有规范性引用文件。 3　术语、定义和缩略语 3.1　术语和定义 下列术语、定义适用于本文件。 3.1.1　 模型 model 训练完的结果文件和配置文件集合（包括网络结构、参数等）。 3.1.2　 引擎 engine 将模型部署为稳定服务时，模型可进行推理的容器环境。 3.1.3　 能力 ability 模型部署完成后提供稳定访问的服务，能力部署时包括模型和引擎两部分 注：业务层需提供一个管理功能，对各能力有版本、调用权限的管理。 3.1.4　 数据预处理 data preprocessing 对原始数据进行必要的清理、集成、转换、离散和规约等一系列的处理工作。 注：处理有多种方法，如数据清理、数据集成、数据变换、数据归约等。 3.1.5　 特征工程 feature engineering 本质是一项工程活动，目的是最大限度地从原始数据中提取特征以供算法和模型使用。 3.1.6　 YD/T xxxx—xxxx 5 关联分析 association analysis 通过研究已经产生的数据 ，找出存在于项目集合之间的关联模式 ，在具备关联性情况下通过其中一 个项集对另外一个项集进行预测。 3.1.7　 数据标注 data annotations 数据标注员借助标注工具 ，对图像、文本、语音、视频等数据进行拉框 、描点、转写、语义分割等 操作，以产出适合机器学习数据集的过程。 注：通常数据标注的类型包括：图像标注、语音标注、文本标注、视频标注等种类。标记的基本形式有标注画框 、 3D画框、文本转录、图像打点、目标物体轮廓线等。 3.1.8　 超参数 hyperparameter 在机器学习中，超参数是指在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据 。 通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。 3.1.9　 租户 tenant 可根据自身需求对租用的系统实例进行个性化配置的主体，且保证同一平台下的数据隔离。 3.2　缩略语 下列缩略语适用于本文件 AI 人工智能 Artificial