GB/Z222-2026
人工智能 模型即服务(MaaS)性能规范
Artificial intelligence-Model as a service(MaaS)performance specification
目次
1范围2规范性引用文件3术语和定义4缩略语5MaaS性能参数框架5.1述5.2性能参数 5.2.1模型开发性能参数5.2.2模型服务性能参数5.2.3AI应用开发性能参数6参数测试方法6.1模型开发 ... ... .6.1.1训练 ".....6.1.2推理6.2模型服务6.2.1模型服务时延6.2.2 模型服务吞吐率6.2.3 模型服务请求成功率6.2.5生成式语言模型token吞吐率... 6.2.4 生成式语言模型首token时延.6.3AI应用开发6.3.1AI应用服务时延. 10 106.3.2AI应用服务吞吐率 116.3.3AI应用服务请求成功率.6.3.4生成式AI应用服务首token时延 126.3.5生成式AI应用服务token吞吐率 12
前言
本文件为规范类指导性技术文件.
本文件按照GB/T1.1-2020标准化工作导则第1部分:标准化文件的结构和起草规则》的规定起草.
请注意本文件的某些内容可能涉及专利.本文件的发布机构不承担识别专利的责任.
本文件由全国信息技术标准化技术委员会(SAC/TC28)提出并归口.
本文件起草单位:中国电子技术标准化研究院、北京百度网讯科技有限公司、华为云计算技术有限公司、上海商汤智能科技有限公司、浪潮电子信息产业股份有限公司、浙江大华技术股份有限公司、浪潮通信信息系统有限公司、百度云智(北京)科技有限公司、中国移动通信集团有限公司、阿里云计算有限 公司、普元信息技术股份有限公司、浪潮软件科技有限公司、中移(苏州)软件技术有限公司、中电信数智科技有限公司、中国移动通信集团设计院有限公司、中国科学院信息工程研究所、中国南方电网有限责任公司超高压输电公司、中移(杭州)信息技术有限公司、杭州海康威视数字技术股份有限公司、山东省人工智能研究院、上海文解信息科技有限公司、北京神舟航天软件技术股份有限公司、国家能源投资集团有限责任公司信息技术分公司、广电运通集团股份有限公司、深信服科技股份有限公司.
本文件主要起草人:谢永康、鲍薇、杨语澈、李景秋、徐洋、曹晓琦、邸贺亮、吴庚、杨雨泽、黎世勇、施恩、郑子木、李旭东、孔维生、肖红梅、张婷、曹汐、刘增志、彭骏涛、李照川、杨灿坤、仲凯韬、蔡洛维、刘井强、周震震、付涛、谢小燕、王珂琛、杨经纬、张悦、崔洪志、张天霖、密伟、张传刚、陈欢、梁秉豪、周彩红、秦日臻、潘风文、侯金磊、徐天适、舒明雷、陈利明、单珂、高宇、徐金铸.