ICS 35.240.01 CCS L 70 37 山东省 地方标准 DB37/T 4844—2025 人工智能系统的服务连续性 治理要求 Service continuity for artificial intelligence systems —Governance requirements 2025 - 05 - 24发布 2025 - 06 - 24实施 山东省市场监督管理局 发布 DB37/T 4844—2025 I 目次 前言 ................................................................................. II 1 范围 ............................................................................... 1 2 规范性引用文件 ..................................................................... 1 3 术语和定义 ......................................................................... 1 4 缩略语 ............................................................................. 1 5 训练数据 ........................................................................... 2 6 算法模型 ........................................................................... 2 7 算力中心 ........................................................................... 2 8 推理平台 ........................................................................... 3 9 系统运维 ........................................................................... 3 10 保障机制 .......................................................................... 5 参考文献 .............................................................................. 6 DB37/T 4844—2025 II 前言 本文件按照GB/T 1.1—2020 《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定 起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由山东省工业和信息化厅提出并组织实施。 本文件由山东省人工智能标准化技术委员会归口。 DB37/T 4844—2025 1 人工智能系统的服务连续性 治理要求 1 范围 本文件规定了人工智能系统在训练数据、算法模型、算力中心、推理平台、系统运维，以及保障机 制等方面为实现服务连续性遵循的基本要求，描述了对应的治理方法。 本文件适用于规范人工智能系统的规划、设计、开发、运行和维护。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。 其中， 注日期的引用文件， 仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本 文件。 GB/T 20984 信息安全技术 信息安全风险评估方法 GB/T 20988 信息安全技术 信息系统灾难恢复规范 GB/T 31722 信息技术 安全技术 信息安全风险管理 GB/T 36957 信息安全技术 灾难恢复服务要求 3 术语和定义 下列术语和定义适用于本文件。 人工智能 artificial intelligence ；AI <学科>人工智能系统相关机制和应用的研究和开发。 [来源：GB/T 41867 —2022，3.1.2] 人工智能系统 artificial intelligence system 针对人类定义的给定目标，产生诸如内容、预测、推荐或决策等输出的一类工程系统。 注1：该工程系统使用人工智能相关的多种技术和方法，开发表征数据、知识、过程等的模型，用于执行任务。 注2：人工智能系统具备不同的自动化级别。 [来源：GB/T 41867 —2022，3.1.8] 服务连续性 service continuity 能够不间断地提供服务，或按计划和约定提供一致的可用性。 [来源：ISO/IEC/IEEE 24765:2017,3.3711] 4 缩略语 下列缩略语适用于本文件。 RPO：恢复点目标（ Recovery Point Object） DB37/T 4844—2025 2 RTO：恢复时间目标（ Recovery Time Objective） 5 训练数据 人工智能系统训练数据的治理要求应包括但不限于以下内容。 a) 数据安全： 1) 数据来源可靠性，包括但不限于传感器、数据采集卡等设备不受信息攻击等安全威胁， 避免数据采集中断； 2) 采取加密措施保证数据的可靠传输，降低敏感数据泄漏风险； 3) 数据存储在具有强大数据保护功能的冗余环境中，以实现可用性、服务连续性和快速恢 复； 4) 设置数据备份系统，数据备份系统符合 GB/T 36957 和GB/T 20988 的规定； 5) 设置备用数据处理系统，包括备用的计算机、外围设备和软件等； 6) 在中断事件发生后及时核对重要数据，追补丢失数据。 b) 数据质量： 1) 数据在时间序列上的连贯性，避免数据中断或缺失，确保数据的连续性； 2) 收集到的数据包含所有必要的特征和信息，避免遗漏重要数据，确保数据的完整性； 3) 数据能够真实反映实际情况，对模型训练产生积极影响，对数据进行适当的预处理，以 提高数据质量，确保数据的有效性； 4) 采用高精度的数据收集方法和技术，使用抽样检测与全部检测相结合的方式，检验数据 是否能准确表示其所描述的实际对象，无 误差或偏差，确保数据的准确性。 6 算法模型 人工智能系统算法模型的治理要求应包括但不限于以下内容。 a) 算法模型设计： 1) 通过人工智能算法和模型调优，智能识别代码冲突与恶意代码； 2) 使用模型加密、代码混淆等防止模型被逆向的技术手段，提高模型的防逆向性，避免被 逆向出模型参数文件以及代码文件； 3) 基于特定开源框架或第三方库开发的模型在框架或第三方库更新时，及时做出相应调整； 4) 保证人工智能系统的迭代速率满足用户需求。 b) 算法模型应用： 1) 在应用前编制并备份算法逻辑、体系及结构等技术文档； 2) 在应用前进行风险评估和测试，针对可能出现 的风险制定应对措施； 3) 对算法使用情况及算法结果进行监管，动态监测算法的实际运行情况，发现算法漏洞并 及时处理， 降低由于算法不可验证、 算法问题解决方案复杂等特性可能导致的中断风险。 7 算力中心 人工智能系统算力中心的治理要求应包括但不限于以下内容。 a) 物理基础设施要求： 1) 具备稳定的电力供应和网络连接，包括配置应急电力设施，以及可靠的网络设备等； DB37/T 4844—2025 3 2) 关键设备采用冗余配置，如双路供电、冗余冷却系统等，以确保在设备故障时能够迅速 切换至备用设备，保障服务的连续性； 3) 机柜、线缆、光纤、消防安防等物理基础设施安全可靠，提供安全稳定的物理环境，防 止因物理损坏导致服务中断。 b) 技术与系统要求： 1) 配置高可用性和容灾设备，如负载均衡器、缓存设备、容灾备份系统等，在发生故障时 迅速恢复服务，减少业务中断时间； 2) 部署监控与管理系统对算力中心的运行状态进行实时监控和管理，及时发现并处理潜在 故障。 8 推理平台 人工智能系统推理平台的治理要求应包括但不限于以下内容。 a) 平台性能要求： 1) 推理性能：采用经过深度优化的推理算法和引擎，利用先进的计算技术和加速库，提升 推理速度和效率，确保在低延迟和高吞吐量下稳定运行； 2) 动态资源分配：具备基于需求动态调整资源的能力，根据推理任务的负载、优先级和实 时性要求调度计算资源，确保资源高效利用和服务连续性； 3) 预推理：基于历史数据和用户行为模式，预测潜在的问题或需求，并进行相应的预处理 和决策准备，增强系统的适应性和鲁棒性，确保平台持续稳定地提供服务； 4) 缓存机制：通过存储经常访问的数据或计算结果（如模型参数、中间计算结果等）