团 体标准
T/CFE11 0021-2024
artificialintelligence integrated applications
(Organizationedition)
目次
前 言 111引 言 AI1范围2规范性引用文件3术语和定义.4评估框架与评估方法4.1模型构成4.2评估等级5评价方法6评估内容....6.1内设架构6.1.1机构设置6.1.2责任体系6.2制度建设.6.2.1文档管理，6.2.2日志记录.6.2.3风险管理.6.2.4应急计划6.2.5多方参与.6.2.6信息披露6.3宣贯培训.6.3.1人员培训.6.3.2传播宣贯6.4过程管理，
6.4.1数据管理6.4.2数据标注.6.4.3算法选择6.4.4版本管理.6.4.5性能测试6.4.6下线管理.. 86.5防御机制6.5.1可信环境6.5.2攻击防范.附录A人工智能融合应用安全可信度（组织版）评估分级方法 10A.1概述.... 10A.2评估指标体系构建 10A.2.1构建原则. 10A.2.2构建步骤10A.3加权评分方法. 10A.3.1权重设置 10A.3.2加权评分 10A.4分级判定参考 11A.4.1人工智能融合应用安全可信度一级， 11A.4.2人工智能融合应用安全可信度二级， 11A.4.3人工智能融合应用安全可信度三级 11A.4.4人工智能融合应用安全可信度四级 12A.4.5人工智能融合应用安全可信度五级 12
前言
本标准按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草.
本标准由中国电子信息行业联合会提出并归口.
请注意本标准的某些内容可能涉及专利，本标准的发布机构不承担识别专利的责任.
本标准起草单位：国家工业信息安全发展研究中心、西安交通大学、清华大学公共管理学院、北京格灵深瞳信息技术股份有限公司、北京工业大学、北京北信源软件股份有限公司、北京奇虎科技有限公司、商汤集团有限公司、蚂蚁科技集团股份有限公司、北京百度网讯科技有限公司、北京昇腾人工智能生态创新中心、北京晴数智慧科技有限公司、北京神州绿盟科技有限公司、北京中科睿鉴科技有限公司、广州广电信总安全科技有限公司、北京中银（深圳）律师事务所.
本标准主要起草人：王淼、邱惠君、张瑶、刘永东、李卫、张振乾、邱颖昭、沈超、李前、赵静、陈天博、李争、王伟茹、姜来、杨东东、韩东、胡正坤、杨胜尧、林冠辰、郭建领、樊少培、张笑威、杨鑫宜、王子昂、张原、潘良.
引言
人工智能作为数字化转型的重要赋能技术之一，正在与金融、医疗、工业、交通等领域融合发展.近年来，人工智能应用范围加速拓展，行业渗透率迅速提升.与此同时，人工智能存在算法、数据、攻防、应用、管理等方面的风险，已暴露出信息泄露、数据滥用、偏见歧视、实施诈骗等安全风险，引发了社会各界对人工智能安全问题的广泛关注.
本项目在充分研究分析国内外人工智能安全风险治理原则、政策、标准等文件的基础上，面向设计、开发、使用人工智能的组织提出人工智能安全可信度评估框架、方法和内容，为组织开展人工智能安全可信度自评估和第三方评估提供依据，也可以为监管部门提供参考.
对标准中的具体事项，法律法规另有规定的，需遵照其规定执行.
