定位:回答"允许怎么做"的规范基础——法律、规章、规范性文件、标准四层如何叠成一张网。 基准:2026 年 9 月
谱系总览:四层 + 一条主线
法律层 《网络安全法》《数据安全法》《个人信息保护法》(+《科技进步法》为依据) ↓ 依据 部门规章层 算法推荐 → 深度合成 → 生成式AI → 生成合成内容标识 ↓ 支撑 规范性文件层 科技伦理审查办法、AI 伦理规范 ↓ 落地 标准层 TC260/国标(安全基本要求、标识方法)|信通院评估体系|AI 计量体系一条主线:从"管算法"→"管深度合成"→"管生成式服务"→"管生成内容标识",规制颗粒度逐层细化,门槛从抽象原则走向可量化指标。
1.1 法律层:三部基础法(+一部依据法)
法律 | 施行 | 对 AI 的核心约束 |
|---|---|---|
《网络安全法》 | 2017.6.1 | 网络空间基础性法律;确立网络产品服务安全、网络运行安全、关键信息基础设施安全制度;落实网络实名制 |
《数据安全法》 | 2021.9.1 | 数据分类分级保护制度;关系国家安全、国民经济命脉、重要民生、重大公共利益的数据属国家核心数据,实行更严格管理 |
《个人信息保护法》 | 2021.11.1 | 个人信息处理规则;敏感个人信息(生物识别、医疗健康、金融账户、行踪轨迹及不满十四周岁未成年人信息)须单独同意 |
《科学技术进步法》 | 2022.1.1 | 《生成式人工智能服务管理暂行办法》与《人工智能科技伦理审查与服务办法》的共同依据 |
三者定位差异:《网络安全法》管网络、《数据安全法》管数据、《个人信息保护法》管个人信息。
对 AI 企业的直接含义:训练语料涉及个人信息须满足 PIPL 的授权要求;涉及重要数据/核心数据须满足 DSL 的分类分级要求。二者在推荐性国标中已被量化(见 1.4)。
1.2 部门规章层:四部(按时间线递进)
①《互联网信息服务算法推荐管理规定》
- 发布:国家网信办、工信部、公安部、国家市场监管总局四部门联合
- 施行:2022.3.1
- 核心制度:算法备案——具有舆论属性或社会动员能力的算法推荐服务提供者,应在提供服务之日起十个工作日内通过备案系统填报
- 五类算法:生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类
- 监管体系:算法分级分类 + 算法备案管理 + 算法安全评估 + 算法风险监测
②《互联网信息服务深度合成管理规定》
- 发布:国家网信办、工信部、公安部令第 12 号
- 施行:2023.1.10
- 技术定义:利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景的技术,含人脸生成/替换、三维重建、数字仿真等
- 主体义务:提供者、技术支持者、使用者、应用程序分发平台
- 备案(第十九条):具有舆论属性或社会动员能力的深度合成服务提供者应履行备案手续;技术支持者参照履行
- 安全评估:开发上线具有舆论属性或社会动员能力的新产品、新应用、新功能,应开展安全评估
③《生成式人工智能服务管理暂行办法》
- 发布:国家网信办联合国家发改委、教育部、科技部、工信部、公安部、广电总局七部门
- 施行:2023.8.15
- 地位:是全球首部针对生成式人工智能的专门立法(网信专家解读)
- 适用:利用生成式 AI 技术向境内公众提供生成文本、图片、音频、视频等内容的服务
关键条文:
- 第十七条:提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应开展安全评估,并按《算法推荐管理规定》履行算法备案和变更、注销备案手续
- 第十九条:主管部门可要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明
- 第二十条:来源于境外向境内提供服务不符合规定的,网信部门应通知有关机构采取技术措施和其他必要措施予以处置(理解"境外模型为何进不来"的关键)
- 第二十三条:外商投资生成式人工智能服务,应符合外商投资相关法律、行政法规的规定
- 原则:包容审慎 + 分类分级监管
④《人工智能生成合成内容标识办法》
- 发布:国家网信办、工信部、公安部、广电总局四部门联合,2025.3.14
- 施行:2025.9.1
- 核心:明确 AI 生成合成内容标识包括显式标识和隐式标识;规范内容制作、传播各环节标识行为
!!!它是 1.6 内容标识的直接上位依据。不引这部规章,标识义务就无来源。
四部规章递进关系:
规章 | 管什么 | 颗粒度 |
|---|---|---|
算法推荐规定 | 五类算法服务 | 算法机制透明 |
深度合成规定 | 换脸/拟声/三维重建等 | 具体技术形态 |
生成式 AI 暂行办法 | 生成式服务全链条 | 服务提供者责任 |
生成合成内容标识办法 | 生成内容本身 | 单条内容可溯源 |
1.3 规范性文件层:伦理审查成为前置要求
《人工智能科技伦理审查与服务办法(试行)》
项 | 内容 |
|---|---|
文号 | 工信部联科〔2026〕75 号 |
印发 | 工信部、发改委、教育部、科技部、农业农村部、卫健委、人民银行、网信办、中科院、中国科协十部门联合 |
依据 | 《科学技术进步法》《关于加强科技伦理治理的意见》《科技伦理审查办法(试行)》 |
核心要求:
- 高等学校、科研机构、医疗卫生机构、企业等是本单位伦理审查管理的责任主体
- 应设立人工智能科技伦理委员会,配备必要的工作人员、办公场所和经费,保障委员会独立开展工作
- 鼓励有资质单位开展 AI 科技伦理管理体系相关认证
- 地方可建立专业性 AI 科技伦理审查与服务中心,提供审查、复核、培训、咨询服务
监管分工:
科技部负责统筹指导全国科技伦理监管工作,工信部会同有关部门负责人工智能科技伦理治理工作,各部门依照职责权限负责本行业、本系统人工智能科技伦理审查的监督管理工作。
关键变化:该办法将伦理审查设为AI 产品上线的前置要求,压实研发运营主体伦理合规法定责任。这不再是"建议"。
AI 伦理规范
与伦理审查办法配套的规范性文件,强调增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明等伦理原则,并要求伦理委员会保证应急审查的质量与时效、加强跟踪工作与过程监督。
📌 国泰海通《全球人工智能趋势全景白皮书(2026)》将"伦理审查"列为中国"人工智能+"政策体系的重要组成部分,与场景培育、智能体规范、深度合成标准、AI 计量体系并列推进 。
1.4 标准层:TC260/国标 + 信通院评估体系 + AI 计量体系
核心修正:GB/T 45654—2025 与 TC260-003 是"升级"关系,不是并列
TC260-003 | GB/T 45654—2025 | |
|---|---|---|
全称 | 《生成式人工智能服务安全基本要求》 | 《网络安全技术 生成式人工智能服务安全基本要求》 |
性质 | 全国网安标委(SAC/TC260)技术文件 | 推荐性国家标准 |
发布/实施 | 2024.2.29 发布 | 2025.4.25 发布,2025.11.1 实施 |
效力 | 不具有强制执行效力,但监管部门据此开展大模型备案审核 | 配套《暂行办法》,支撑监管备案与第三方安全测评 |
演进逻辑:技术文件先行探索(2024)→ 升格为推荐性国标(2025.11 实施)。当前应以 GB/T 45654—2025 为准。
标准体系全景(按效力排序)
标准 | 性质 | 时间 | 作用 |
|---|---|---|---|
GB 45438—2025《人工智能生成合成内容标识方法》 | 强制性国标 | 2025.2.28 发布,2025.9.1 实施 | 配套《标识办法》,规范标识活动 |
GB/T 45654—2025《生成式人工智能服务安全基本要求》 | 推荐性国标 | 2025.11.1 实施 | 备案技术依据、第三方安全测评 |
GB/T 45652—2025《预训练和优化训练数据安全规范》 | 推荐性国标 | — | 训练数据及其处理活动的安全要求 |
GB/T 45674《数据标注安全规范》 | 推荐性国标 | — | 配套训练数据安全 |
TC260-003 | 技术文件 | 2024.2.29 | 已升格为 GB/T 45654 |
TC260-005《人工智能应用伦理安全指引 1.0》 | 技术文件 | — | 统一合规判定技术标尺 |
GB/T 45654—2025 的量化指标(合规实操关键)
维度 | 量化门槛 |
|---|---|
语料来源 | 违法不良信息>5% 不得采集;采集后核验 >5%不得用于训练 |
训练数据抽检 | 人工抽检合格率≥98%;技术抽检≥96% |
生成内容安全性 | 合格率≥90% |
拒答机制 | 该拒答拒答率≥95%;不该拒答≤5% |
关键词库 | 总规模≥10000 个,每周至少更新一次 |
测试题库 | 生成内容≥2000 题;拒答≥500 题,每月更新 |
附录 A:31 类安全风险分五大类
- 违反社会主义核心价值观(8 类)
- 歧视性内容(9 类)
- 商业违法违规
- 侵犯他人合法权益
- 无法满足特定服务类型的安全需求——用于关键信息基础设施、自动控制、医疗信息服务、心理咨询、金融信息服务时,内容不准确或不可靠
第 5 类是重点:它把医疗、金融、心理咨询、关键信息基础设施列为"安全需求较高的特定服务类型",要求具备与风险程度相适应的保护措施。(对应行业差异)
信通院评估体系
中国信通院构建了覆盖大模型、智能体、RAG 等的可信 AI 评估体系,并发布智能体市场规模等权威统计(智能体市场 135.3 亿、增速超 70% 即出自信通院口径)。评估体系的作用是把抽象的安全要求转化为可测量、可对比的评测结果,为监管备案与采购选型提供依据。
AI 计量体系
"人工智能+"行动的基础支撑中明确包含AI 计量体系建设 ,指向人工智能的计量测试基准、测评方法与量值溯源能力。它解决的是"怎么测量才算准"的问题——与 TC260 的安全标准("要求是什么")、信通院评估体系("怎么评")共同构成标准层的三个支点。
1.5 双备案机制详解
三者的区别(关键:别选错路径)
类型 | 依据 | 适用对象 | 审核机制 |
|---|---|---|---|
算法备案 | 《算法推荐管理规定》 | 具备舆论属性或社会动员能力的算法服务(五类) | 线上系统提交 |
大模型备案 | 《暂行办法》第十七条 | 自研模型,或基于第三方进行预训练/优化训练 | 省级网信初审 + 国家网信终审(两级) |
大模型登记 | 《暂行办法》配套指引 | 仅通过 API 调用已备案模型,不改动权重 | 省级单级审核 |
"双备案"的含义:生成式大模型的底层生成算法本身属于算法备案中的"生成合成类"范畴,因此完成大模型备案的企业仍需补充办理算法备案,实现"模型本体 + 场景应用"双重合规。(来自第三方解读,实操中须向属地网信部门确认。)
大模型备案材料(1 表 + 5 附件)
- 《大模型上线备案申请表》(含模型名称、主要功能、适用人群、服务范围)
- 附件1:安全自评估报告
- 附件2:模型服务协议
- 附件3:语料标注规则
- 附件4:关键词拦截列表
- 附件5:评估测试题集
标准流程(六步)
1. 向属地网信部门报备,获取备案表 2. 企业根据表格及评估要点准备材料 3. 企业内部开展评估,编写材料,准备测试账号 4. 提交材料和测试账号给省级网信部门审核 5. 省级材料审核 + 技术测试(安全测试) └ 未通过:修改材料或调整模型能力后再次提审 6. 上报国家网信部门 → 材料复审 + 技术评审 → 通过后下发备案号- 备案入口:互联网信息服务算法备案系统 https://beian.cac.gov.cn
- 公示:通过后授予备案号/上线编号,官网公示并定期更新
周期与门槛
项目 | 数据 | 口径 |
|---|---|---|
北京"一对一"辅导后平均时长 | 4 个月 → 2 个月 | 官方口径(此前核实,A 级) |
第三方流传的周期 | 3–6 个月、6–8 个月等 | 未获官方确认,仅参考 |
最大的门槛是一个词——"舆论属性或者社会动员能力"。不具此属性的服务无需备案。这是判定适用性的第一步,很多企业误以为所有 AI 应用都要备案。
1.6 内容标识:显式 + 隐式
制度演进
阶段 | 文件 | 标识要求 |
|---|---|---|
2023.1 | 《深度合成管理规定》 | 应添加不影响使用的标识;提供智能对话、合成人声、人脸生成、沉浸式拟真场景等功能的,应显著标识;不得删除、篡改、隐匿标识 |
2025.9 | 《标识办法》+ GB 45438—2025 | 明确显式标识和隐式标识,强制添加 |
两种标识的分工
类型 | 作用位置 | 目的 | 治理逻辑 |
|---|---|---|---|
显式标识 | 信息呈现环节——可能导致公众混淆或误认的内容中加入 | 提示公众该内容的生成合成特性,保障知情权 | 内容治理 |
隐式标识 | 信息传播环节——通过技术保障措施添加到文件元数据中 | 实现安全溯源、确保传播链条清晰、事后追责准确 | 行为治理 |
强制性与红线:
- 《标识办法》自 2025.9.1 施行,要求强制添加显式和隐式标识
- GB 45438—2025 是配套《标识办法》的强制性国家标准,适用于生成合成服务提供者和内容传播服务提供者
- 任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识
一句话理解:显式标识让人"看得出是 AI 做的";隐式标识让监管"追得到是谁做的"。前者保知情权,后者保可追责。
1.7 中外对照:两种监管哲学
维度 | 中国 | 欧盟 |
|---|---|---|
监管思路 | 按场景分部门监管 | 按风险分级监管(AI 法案) |
组织方式 | 网信办、工信部、科技部、公安部 + 行业主管部门各管一摊 | 统一立法 + AI 法案服务台 + 监管沙盒 |
核心抓手 | 备案(算法/大模型)+ 安全评估 + 标识 | 高风险系统合规认证 + 技术文档 |
落地工具 | 备案系统、量化国标(GB/T 45654) | 决策树、自我评估工具、合规模板 |
对中小企业 | 地方"一企一策"辅导(北京、山东) | AI 法案服务台提供定制化合规指导 |
欧盟《AI 大陆行动计划》五大核心领域
- 扩大 AI 计算基础设施:截至 2025 年 3 月选定13 个 AI 工厂,覆盖17 个欧盟成员国及 2 个 EuroHPC 参与国,2021—2027 总投资超100 亿欧元;另通过公私合营部署5 个超级工厂,InvestAI 计划筹 200 亿欧元
- 提升高质量数据获取:数据联盟战略 + 数据实验室;ALT-EDIC 汇集 17 国语言资源
- 加速战略行业 AI 应用:Apply AI 战略瞄准14 个战略行业(先进制造、航空航天、农业、金融、公共部门等);目标改变 2024 年仅 13.5% 企业采用 AI 的局面
- 强化 AI 人才培养:AI 技能学院、RAISE 研究理事会、MSCA Choose Europe 与《签证战略》
- 简化监管合规:2025 年 7 月设AI 法案服务台;成员国建监管沙盒(2026 年全面运行)
补充对照:美国与英国
国家 | 2025—2026 关键动作 | 特点 |
|---|---|---|
美国 | 1 月"星际之门"5000 亿美元;7 月《赢得竞赛:美国 AI 行动计划》(30 项目标、103 条政策行动);12 月行政令推动AI 监管联邦化(限制各州自行立法,建立"负担最小"全国标准) | 强调技术管制、芯片出口限制、全栈生态绑定;用联邦统一标准替代州级碎片化 |
英国 | "AI 机遇行动计划":建多个AI 增长区、公共算力提高 20 倍、创建国家数据库、成立 AI 能源委员会;三家科技公司承诺投资140 亿英镑 | 目标从"全球第三大 AI 市场"避免落后;先测试后投资降低风险 |
一个值得注意的交叉点
欧盟在"监管与合规"部分与中国有相似性:都强调降低中小企业合规成本。欧盟设 AI 法案服务台(2025.7)、开发决策树与自我评估工具、建立监管沙盒(2026 全面运行);中国则通过地方网信部门"一对一"辅导(北京把备案平均时长从 4 个月压到 2 个月)。
差异在于:欧盟用统一立法 + 分级目录界定高风险;中国用部门分工 + 场景目录逐行业推进。前者确定性更高,后者灵活性更强,但对企业的合规判断能力要求更高——你需要自己判断落在哪个部门、哪个场景。
共同的治理挑战
- 最强模型透明度反而下降:基础模型透明度指数平均得分从上年58 分骤降至 40 分;IBM 以 95 分领跑,xAI 的 Grok 和 Midjourney 仅 14 分
- 负责任 AI 报告零散:去年发布的 95 个知名模型中,80 个未公开训练代码
- 安全与准确性存在权衡:改善一个负责任 AI 维度(如安全)可能降低另一个维度(如准确性)
- AI 事件上升:记录在案的 AI 事件从 2024 年233 起升至 2025 年362 起
这意味着:治理不是"管住了就安全",而是一个需要持续投入、且存在内在张力的领域。安全评估是持续运营要求,不是模型发布时的一次性步骤。
附:数据来源分级
等级 | 本卷来源 |
|---|---|
A(官方一手) | 中国网信网《暂行办法》原文(含第二十条、第十七条、第十九条、答记者问);国家标准全文公开系统(GB/T 45654—2025);中国网信网《标识办法》;工信部《伦理审查办法》(工信部联科〔2026〕75 号) |
A–(权威机构) | 欧盟《AI 大陆行动计划》(13 工厂/17 国/100 亿欧元/AI 法案服务台/沙盒);斯坦福《2026 AI Index》(透明度 58→40、80 个未公开训练代码、事件 233→362) |
B(权威转述) | 国泰海通白皮书(中国政策全景、伦理审查/深度合成标准/AI 计量体系);美国 2025 三项计划(星际之门/赢得竞赛/监管联邦化);英国 AI 机遇行动计划(140 亿英镑、公共算力 20 倍) |
C(第三方) | 备案流程与材料清单解读;"双备案"表述 |
D(未采用) | 无来源的备案费用金额 |
特别提示:
- 本卷所有法规施行日期均经官方来源核实
- GB/T 45654—2025 的量化指标来自标准宣贯材料,属权威转述;实操应以标准原文为准
- 合规费用:公开渠道无权威统计,本卷只给成本构成框架,不给金额