DB31
上海市地方 标 電准
互联网信息内容安全审核能力通用要求
General requirements for intermet information content security censor capabilities
上海市市场监督管理局 发布
目次
前言.1范围...2规范性引用文件3术语和定义4等级划分与要求5技术能力， 5.1违法和不良信息检测能力5.2违法和不良信息过滤能力5.3违法和不良信息溯源能力6管理能力... 5.4违法和不良信息处置能力6.1组织机构6.2人员6.3信息内容审核..6.4信息源及用户分类. 6.5监测预警与应急处置附录A（资料性） 违法和不良信息的主要类型，附录B（规范性） 互联网信息内容安全审核能力要求..参考文献. 10
前言
本文件按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草.
请注意本文件的某些内容可能涉及专利.本文件的发布机构不承担识别专利的责任.
本文件由上海市互联网信息办公室提出并组织实施.
本文件由上海市信息安全标准化技术委员会归口.
本文件起草单位：上海市信息安全测评认证中心、中国科学院信息工程研究所、上海东方报业有限公司、支付宝（中国）网络技术有限公司、上海携程商务有限公司、上海幻想七猫数字技术有限公司、信息股份有限公司、上海任意门科技有限公司、公安部第三研究所、上海喜马拉雅科技有限公司、上海 上海盒马网络科技有限公司、上海宽娱数码科技有限公司、行吟信息科技（上海）有限公司、东方财富观察者信息技术有限公司、上海米哈游网络科技股份有限公司.
本文件主要起草人：李宏达、徐御、俞露婷、俞佳敏、化嘉仪、何极、范动林、张潇丹、黄杨、林冠辰、吴梦楠、王业元、丁吕瑾、侯金龙、朱厚真、陈云鹏、韩嘉巍、丁治国、娄向文、李建辉、杨梦楚.
互联网信息内容安全审核能力通用要求
1范围
本文件规定了互联网信息内容安全审核能力的等级划分与要求、技术能力、管理能力等要求.
三方机构进行监督管理和评估时可参考使用. 本文件适用于上海地区互联网信息服务提供者开展信息内容安全审核能力建设，本市监管部门、第
2规范性引用文件
下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款，其中，注日期的引用文件，仅该日期对应的版本适用于本文件：不注日期的引用文件，其最新版本（包括的修改单）适用于本文件.
GB/T40645-2021互联网信息服务安全通用要求
3术语和定义
GB/T40645-2021界定的术语和定义适用于本文件.
互联网信息服务internetinformation service 基于信息发布、交互、传播等相关技术和功能属性，通过互联网面向社会公众提供的信息服务.注：互联网信息服务常见形式包括内容发布、评论评价、信息分享、推荐推送、内容搜索、通信群组、网络直播等.[来源：GB/T 40645-2021 3.1]
3.2 信息源information source互联网信息服务中信息的提供者及信息内容.[来源：GB/T 40645-2021，3.8]
3.3 互联网信息服务用户internetinformationserviceuser使用互联网信息服务的个人或组织.[来源：GB/T 40645-2021 3.10]
3. 4互联网信息服务提供者internetinformation serviceprovider 为用户提供互联网信息服务的组织或机构.[来源：GB/T 40645-2021，3.11]
3.5
深度合成技术deep synthesis technology
技术. 利用深度学习、虚拟现实等生成合成类算法制作文本、图片、音频、视频、虚拟场景等网络信息的
3.6
DB 31/T 1560-2025
互联网信息内容安全审核能力internetinformation content security censor capabilities互联网信息服务提供者检测、过滤、溯源和处置违法和不良信息的能力.
违法和不良信息illogalandharmfulinformation违反法律法规和影响网络生态健康的信息.
3.8
注：违法和不良信息的主要类型见附录A.
3.9
召回率recall
对于给定的数据集，违法和不良样本判断正确的数量占违法和不良样本数量的比率.
精确率precision
对于给定的数据集，违法和不良样本判断正确的数量占判断为违法和不良样本数量的比率.
4等级划分与要求
本文件将互联网信息服务提供者的信息内容安全审核能力划分为两个等级，分别是基本级和增强级.互联网信息服务提供者应根据其企业规模、业务范围和用户规模等情况确定信息内容安全审核能力等级，见表1.
表1互联网信息内容安全审核能力等级划分
分级要素 审核能力等级小、微型企业 基本级 增强级企业规模 中型企业 -大型企业文字业务范围 图片 <音视频用户规模 100万及以下100万以上 设. 互联网信息服务提供者确定审核能力等级后，应按照附录B中的要求进行信息内容安全审核能力建 5技术能力 5.1违法和不良信息检测能力
