DB37
山 东省地方 标 電准
人工智能系统的服务连续性 治理要求
Service continuity for artificial intelligence systemsGovernance requirements
山东省市场监督管理局 发布
目次
前言1范围..2规范性引用文件3术语和定义4缩略语，5训练数据，6算法模型7算力中心8推理平台9系统运维10保障机制参考文献.
前言
本文件按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草.
本文件由山东省工业和信息化厅提出并组织实施.
本文件由山东省人工智能标准化技术委员会归口.
人工智能系统的服务连续性治理要求
1范围
本文件规定了人工智能系统在训练数据、算法模型、算力中心、推理平台、系统运维，以及保障机制等方面为实现服务连续性遵循的基本要求，描述了对应的治理方法.
本文件适用于规范人工智能系统的规划、设计、开发、运行和维护.
2规范性引用文件
仅该日期对应的版本适用于本文件：不注日期的引用文件，其最新版本（包括的修改单）适用于本 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款.其中，注日期的引用文件，文件.
GB/T20984信息安全技术信息安全风险评估方法GB/T20988信息安全技术信息系统灾难恢复规范GB/T31722信息技术安全技术信息安全风险管理 GB/T36957信息安全技术灾难恢复服务要求
3术语和定义
下列术语和定义适用于本文件.
3.1人工智能artificialintelligence；Al人工智能系统相关机制和应用的研究和开发.[来源：GB/T 41867-2022 3.1.2]
3.2人工智能系统artificialintelligence system针对人类定义的给定目标，产生诸如内容、预测、推荐或决策等输出的一类工程系统.注1：该工程系统使用人工智能相关的多种技术和方法，开发表征数据、知识、过程等的模型，用于执行任务. 注2：人工智能系统具备不同的自动化级别.[来源：GB/T 41867-2022.3.1.8]
3.3服务连续性service continuity能够不间断地提供服务，或按计划和约定提供一致的可用性. [来源：ISO/IEC/IEEE 24765:2017 3.3711]
4缩略语
下列缩略语适用于本文件.RPO：恢复点目标（Recovery Point Object）
RTO：恢复时间目标（Recovery Time Objective）
5训练数据
人工智能系统训练数据的治理要求应包括但不限于以下内容.
a）数据安全：
1）数据来源可靠性，包括但不限于传感器、数据采集卡等设备不受信息攻击等安全威胁，2）采取加密措施保证数据的可靠传输，降低敏感数据泄漏风险： 避免数据采集中断：3）数据存储在具有强大数据保护功能的余环境中，以实现可用性、服务连续性和快速恢复：5）设置备用数据处理系统，包括备用的计算机、外围设备和软件等： 4）设置数据备份系统，数据备份系统符合GB/T36957和GB/T20988的规定：6）在中断事件发生后及时核对重要数据，追补丢失数据.
b）数据质量：
1）数据在时间序列上的连贯性，避免数据中断或缺失，确保数据的连续性：3）数据能够真实反映实际情况，对模型训练产生积极影响，对数据进行适当的预处理，以 2）收集到的数据包含必要的特征和信息，避免遗漏重要数据，确保数据的完整性：提高数据质量，确保数据的有效性：4）采用高精度的数据收集方法和技术，使用抽样检测与全部检测相结合的方式，检验数据是否能准确表示其所描述的实际对象，无误差或偏差，确保数据的准确性.
6算法模型
人工智能系统算法模型的治理要求应包括但不限于以下内容.
1）通过人工智能算法和模型调优，智能识别代码冲突与恶意代码：2）使用模型加密、代码混淆等防止模型被逆向的技术手段，提高模型的防逆向性，避免被逆向出模型参数文件以及代码文件：3）基于特定开源框架或第三方库开发的模型在框架或第三方库更新时，及时做出相应调整：4）保证人工智能系统的选代速率满足用户需求.
b）算法模型应用：
1）在应用前编制并备份算法逻辑、体系及结构等技术文档：2）在应用前进行风险评估和测试，针对可能出现的风险制定应对措施：3）对算法使用情况及算法结果进行监管，动态监测算法的实际运行情况，发现算法漏洞并 及时处理，降低由于算法不可验证、算法问题解决方案复杂等特性可能导致的中断风险.
7算力中心
人工智能系统算力中心的治理要求应包括但不限于以下内容.
a）物理基础设施要求：1）具备稳定的电力供应和网络连接，包括配置应急电力设施，以及可靠的网络设备等：
