团体标准
T/TAF310--2025
移动智能终端端侧大模型安全实施指南
Security implementation guidelines for large models deployed on themobile terminal
电信终端产业协会发布
目次
前言.1范围2规范性引用文件3术语和定义4缩略语5端侧大模型概述5.1端侧AI架构.5.2端侧大模型模式分类 5.3应用场景，5.4安全威胁6瑞侧大模型安全实施框架7模型安全7.1安全运行7.2数据保护7.3攻击防护8业务安全.. 8.1内容安全.8.2个人信息保护8.3通信安全8.4运行维护9安全保障附录A（资料性） 瑞侧大模型安全威胁分析参考文献..
前言
本文件按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草.
请注意本文件的某些内容可能涉及专利.本文件的发布机构不承担识别专利的责任.
本文件由电信终端产业协会（TAF）提出并归口.
广东移动通信有限公司、荣耀终端股份有限公司、蚂蚁科技集团股份有限公司、联想（北京）有限公司、 本文件起草单位：维沃移动通信有限公司、中国信息通信研究院、小米通讯技术有限公司、OPPO北京快手科技有限公司、高通无线通信技术（中国）有限公司、安谋科技（中国）有限公司、北京微梦创科网络技术有限公司、上海得物信息集团有限公司、北京零一万物科技有限公司.
本文件主要起草人：赵盈洁、王艳红、武林娜、王淞鹤、李方圆、周楚杰、苏涛、吴越、李根、李辰淑、赵晓娜、林冠辰、李欣、高博雅、谷晨、王江胜、王骏超、任资政、康宇、杨欢、王海棠.
移动智能终端端侧大模型安全实施指南
1范围
本文件规定了提出了移动智能终端端侧大模型的框架、风险、安全相关的实施指南.
评估机构等组织对移动智能终端端侧大模型的安全进行评估. 本文件适用于移动智能终端端侧大模型服务提供者的设计、生产活动，也适用于主管部门、第三方
2规范性引用文件
本文件没有规范性引用文件.
3术语和定义
下列术语和定义适用于本文件.
3. 1
移动智能终端smartmobileterminal
能够接入移动通信网，具有能够提供应用软件开发接口的操作系统，具有安装、加载和运行应用软件能力的终端.
[来源：YD/T2407-2021 3.1.1]
3. 2
大模型largemodel
深度学习模型. 使用大规模数据集通过无监督学习并进行有监督微调得到的，具备大参数量的可以执行广泛任务的
3.3
移动智能终端端侧大模型on-device largemodelfor smart mobile terminal
模式为离线模式，在该模式下可离线进行推理，扩展模式为在线模式，利用云侧协助完成更复杂的推理 能够在智能手机、平板电脑等移动智能终端OS上本地进行部署、运算和推理的一种大模型，基础任务，本文件简称端侧大模型.
4缩略语
下列缩略语适用于本文件.
APl：应用程序编程接口（Application Programming Interface） AI:人工智能（ArtificialIntelligence）APP：移动应用程序（Application）CPU：中央处理器（Central Processing Unit）CVE：通用漏洞披露（Common Vulnerabilities&Exposures） DoS：拒绝服务（DenialofService）GPU：图形处理器（Graphics Processing Unit)ID：身份标识号（IdentityDocument）OS：操作系统（Operating System）
SSRF：服务端请求伪造（Server-Side Request Forgery）URL：统一资源定位系统（Uniform Resource Locator）XSS：跨站脚本攻击（Cross Site Scripting）
5端侧大模型概述
5.1端侧AI架构
端侧大模型的部署存在两种情况，一是嵌入终端OS中，二是与终端OS有一定耦合或集成，端侧大模型会与终端上搭载的APP进行相应交互.同时可能存在端侧大模型接入云侧，利用云侧能力协助完成更复杂的任务的情况.
在上述场景中，需要着重考虑模型安全、业务安全以及相应安全保障的内容，整体端侧AI架构见图1.
图1端侧AI架构
5.2端侧大模型模式分类
根据是否支持云侧接入分为离线模式与在线模式两种模式.
a）离线模式：无需联网，仅在本地运行和处理数据，依靠本地算力提供服务.b）在线模式：
端侧接入云侧，利用云侧能力协助，可支持更复杂的服务场景，完成更为复杂的任务.
5.3应用场景
景下提供服务：在线模式可具备语言理解能力，在文本创作、图像创作、角色扮演、知识问答、自然对 端侧大模型的离线模式可具备文本总结、图像修改、语音识别等能力，在文本创作、图像创作等场话、逻辑推理、任务编排等场景下提供服务.
5.4安全威胁
端侧大模型面临的安全威胁见附录A，主要分为两大类，分别是端侧大模型整体面临的安全成胁和端侧大模型中算法面临的安全威胁，具体描述如下：
一一在端侧大模型整体层面，安全威胁主要包括模型窃取、模型泄露、模型纂改、数据泄漏等：
