GB/Z243-2026
人工智能 端侧大模型推理引擎技术要求
Artificial intelligence-Technical requirements for on-device large-scalemodel inference engine
目次
前言引言1范围2规范性引用文件3术语和定义4缩略语5参考架构 6技术要求6.1数据6.2轻量化部署6.3异构软硬件适配6.4推理计算加速6.5推理内存优化参考文献 10
前言
本文件为规范类指导性技术文件.
本文件按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草.
请注意本文件的某些内容可能涉及专利.文件的发布机构不承担识别专利的责任.
本文件由全国信息技术标准化技术委员会（SAC/TC28）提出并归口.
本文件起草单位：上海交通大学、中国电子技术标准化研究院、浙江大学、淘宝（中国）软件有限公司、联想（北京）有限公司、中兴通讯股份有限公司、中国电信集团有限公司、青岛国创智能家电研究院有限公司、济南浪潮数据技术有限公司、中国电力科学研究院有限公司、中国移动通信集团终端有限公司、 中国电信股份有限公司上海分公司、蔚来控股有限公司、上海壁初科技股份有限公司、（PPO广东移动通信有限公司、天津大学、南京大学，
本文件主要起草人：吴帆、牛超越、吴飞、鲍薇、吕承飞、吴杰、张东、王哗、王茜莺、周飞、郝建业、许辉阳、龚勃、刘彪、卢龙、丁瑞全、秦征、陈贵海、张慷、朱文印、董建、徐洋、崔卓、黄正翔、郑臻哲、杨易、张圣宇、郑若琳、刘晓璇、王召德、王晓辉、邢冯、陈晓春、朱妹、刘生钟、柳宁、陈静远、范鹤鹤、陈志文、康峰、李沁雅、 章敏、魏颖、周娘林、朱霖潮、贺可强、刘泽民.
