Assessment specification for security and trustworthiness ofartificialintelligence integrated applications
(System edition)
目次
前 言 111言 AI1范围2规范性引用文件3术语和定义4评估框架4.1模型构成4.2评估等级5评价方法6评估内容6.1数据6.1.1准确性6.1.2无偏性.6.1.3代表性.6.1.4可追溯.6.1.5合规性.6.2模型6.2.1解释性6.2.2鲁棒性...6.2.3公平性6.2.4可追溯.6.2.5向善性.6.3性能6.3.1精准性
T/CFEII 0020-20246.3.2可靠性6.3.3无害性6.4防街6.4.1风险管理6.4.2可信环境6.4.3攻击防范6.4.4控制机制.6.4.5应急计划6.5沟通 86.5.1规范使用6.5.2交互6.6责任6.6.1职责确立6.6.2人员培训..附录A人工智能融合应用安全可信度评估分级方法 10A.1概述 10A.2评估指标体系构建 10A.2.1构建原则 10A.2.2构建步骤 10A.3加权评分方法 10A3.1权重设置 10A.3.2加权评分. 10A.4分级判定参考 11A.4.1人工智能融合应用安全可信度一级 11A.4.2人工智能融合应用安全可信度二级 11A.4.3人工智能融合应用安全可信度三级 11A.4.4人工智能融合应用安全可信度四级11A.4.5人工智能融合应用安全可信度五级 12
前言
本标准按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草.
本标准由中国电子信息行业联合会提出并归口.
请注意本标准的某些内容可能涉及专利，本标准的发布机构不承担识别专利的责任.
本标准起草单位：国家工业信息安全发展研究中心、西安交通大学、清华大学公共管理学院、北京格灵深瞳信息技术股份有限公司、北京工业大学、北京北信源软件股份有限公司、北京奇虎科技有限公司、商汤集团有限公司、蚂蚊科技集团股份有限公司、北京百度网讯科技有限公司、北京昇腾人工智能生态创新中心、北京晴数智慧科技有限公司、北京神州绿盟科技有限公司、北京中科睿鉴科技有限公司、广州广电信总安全科技有限公司、北京中银（深圳）律师事务所.
本标准主要起草人：邱惠君、张瑶、王淼、刘永东、李卫、李天舒、张若丹、沈超、葡琛皓、赵静、陈天博、胡俊、张建标、高曦、夏林聪、邹权臣、张德岳、胡正坤、林冠辰、郭建领、王瑞平、罗磊、王星凯、陈漫兰、张原、梁添才、潘良.
引言
人工智能作为数字化转型的重要赋能技术之一，正在与金融、医疗、工业、交通等领域融合发展.近年来，人工智能应用范围加速拓展，行业渗透率迅速提升.与此同时，人工智能存在算法、数据、攻防、应用、管理等方面的风险，已暴露出信息泄露、数据滥用、偏见歧视、实施诈骗等安全风险，引发了社会各界对人工智能安全问题的广泛关注.
本项目在充分研究分析国内外人工智能安全风险治理原则、政策、标准等文件的基础上，面向人工智能系统提出人工智能融合应用安全可信度评估框架、方法和内容，为开展人工智能安全可信度自评估和第三方评估提供依据，也可以为监管部门提供参考.
对标准中的具体事项，法律法规另有规定的，需遵照其规定执行.
