人工智能融合应用安全可信管理指南
artificialintelligence integrated applications
Guidelines on security and trustworthy management of
目次
前言言1范围2规范性引用文件3术语和定义4总则4.1指导思想4.2管理原则5实践指南5.1组织制度5.2数据管理.5.3模型开发5.4性能质量5.5防御机制.5.6部署运行
前言
本标准按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草.
本标准由中国电子信息行业联合会提出并归口.
请注意本标准的某些内容可能涉及专利，本标准的发布机构不承担识别专利的责任.
本标准起草单位：国家工业信息安全发展研究中心、西安交通大学、清华大学公共管理学院、北京格灵深髓信息技术股份有限公司、北京工业大学、北京北信源软件股份有限公司、北京奇虎科技有限公司、商汤集团有限公司、蚂蚁科技集团股份有限公司、北京百度网讯科技有限公司、北京昇腾人工智能生态创新中心、北京晴数智慧科技有限公司、北京神州绿盟科技有限公司、广州广电信息安全科技有限公司、山石网科通信技术股份有限公司.
本标准主要起草人：张瑶、王淼、邱惠君、李卫、刘永东、张若丹、张振乾、李天舒、邱颖昭、沈心然、沈超、赵静、陈天博、胡俊、高曦、邹权臣、胡正坤、林冠辰、郭建领、李天哲、张晴晴、顾杜娟、梁添才、吴疆.
引言
人工智能作为数字化转型的重要赋能技术之一，正在与金融、医疗、工业、交通等领域融合发展.近年来，人工智能应用范围加速拓展，行业渗透率迅速提升.与此同时，人工智能存在算法、数据、攻防、应用、管理等方面的风险，已暴露出信息泄露、数据滥用、偏见歧视、实施诈骗等安全风险，引发了社会各界对人工智能安全问题的广泛关注.
本项目在充分研究分析国内外人工智能安全风险治理原则、政策、标准等文件的基础上，明确人工智能融合应用安全治理的原则和目标，提出能够推动相关治理原则落地的治理措施和实践指南，旨在推动人工智能健康有序发展.
本标准旨在为各类主体提供人工智能安全可信管理指引，《人工智能融合应用安全可信度评估规范（系统版）》和《人工智能融合应用安全可信度评估规范（组织版）》将分别提供面向人工智能系统和面向人工智能开发、应用单位的安全可信度评估框架、方法与内容，三项标准共同形成人工智能融合应用安全可信系列标准.
对标准中的具体事项，法律法规另有规定的，需遵照其规定执行.
