说实话,两年前我第一次看到“欧盟人工智能法案(EU AI ACT)”这个词时,心里想的是:这跟我一个写代码的有什么关系?欧洲那边的法律条款,向来是白皮书、绿皮书一堆,最后能不能落地还不一定。直到2024年前后,身边做AI产品的朋友陆续反馈,欧洲客户开始发来合规调查问卷,问的术语一个比一个细——“你的模型属于哪个风险等级?”“训练数据版权清洗做了吗?”“系统日志保留多久?”——我才意识到,这部法律不是躺在欧盟官网上的一份PDF,它正在变成一个真实的、可以影响每一个AI从业者饭碗的规则体系。
这篇文章我想以一个AI产品实际参与者的视角,把欧盟AI法案(EU AI ACT)从头到尾拆一遍:它管什么、怎么分级、哪些条款跟你有关系、具体如何合规、有哪些坑。适合正在做AI产品出海、给欧洲企业做技术供应商、或者单纯想搞懂“AI合规到底在合什么规”的朋友。我会尽量把法律条文翻译成大白话,把“风险等级”这种抽象概念讲清楚,最后给出一个可以直接上手的排查思路。
1. 从提案到生效:这不是一纸空文,是一套正在运转的机器
1.1 为什么全球都在盯着这部法律
欧盟AI法案(EU AI ACT)是全球第一部对人工智能进行系统化、横向监管的法律文件,2024年正式通过。它不是某个行业的专项规定,而是横跨几乎所有AI应用场景的“基本法”。对做技术的人来说,最核心的一点是:它有域外效力。
什么意思?很多国内团队的第一反应是“我在中国开发,不服务欧洲客户,关我什么事”。但法案的适用逻辑不是按公司注册地,而是按“AI系统的输出是否在欧盟境内产生影响”。举个例子:某团队做了一个AI简历筛选工具,客户是一家德国公司,那这个工具就要纳入欧盟AI法案的管辖范围。就算团队所有人都在中国,办公地点在中国,服务器也有一部分在中国,只要系统部署给欧盟客户使用,就不能说“与我无关”。
这个思路和很多技术人的直觉相反。大家习惯了“代码无国界”,觉得我开源一段代码、搭一个API,谁爱用谁用,怎么责任还追到我这来?但欧盟对AI的逻辑是:谁把AI系统投放进欧盟市场,谁就要对这个系统在欧盟境内产生的结果负责。这就好比你在国内生产的电器卖到欧盟,必须要有CE标志,要符合欧盟的安全标准。AI系统现在也被放到同一个筐里了。
1.2 时间线:法律已经在分阶段生效
我们看一部法律,最关心的往往是“什么时候轮到我”。欧盟AI法案的时间线拉得很长,是典型的“给了缓冲期,但没给借口”。
回顾一下草案到正式生效的过程:2021年4月欧盟委员会首次提出提案,然后经过欧洲议会、欧盟理事会多轮博弈,2023年12月达成临时政治协议,2024年3月欧洲议会表决通过,2024年5月欧盟理事会正式批准。2024年7月法案在官方公报上发布,同年8月1日正式生效。
生效不等于所有条款立刻执行。它是分批上线的:
- 2025年2月2日起,禁止条款开始适用。也就是说,凡是落入“不可接受风险”的AI实践,从这天起就不得在欧盟市场上使用。
- 2025年8月2日起,通用人工智能(GPAI)模型的义务开始适用。主要针对基础模型提供者,比如做GPT这类大规模预训练模型的团队。
- 2026年8月2日起,高风险AI系统的绝大部分要求开始适用。
- 部分跟特定产品相关的规则(比如作为医疗器械、机械设备组件的AI系统)会再往后延,最晚到2027年8月2日。
这里想提醒一下:虽然高风险条款的生效日期在2026年,但合规准备工作现在就必须启动。因为AI系统的合规不是“改一个配置”那么简单,它是一个贯穿设计、开发、部署、运维全流程的事。等临近生效再开始,你的产品迭代周期可能根本撑不住。
1.3 适用对象:不只是“做模型的人”
经常有人问我:“AI法案管的是OpenAI那种大公司吧?我们这种小团队是不是够不上?”这就把“提供者”和“部署者”搞混了。
法案里有一长串角色定义:
- 提供者(Provider):开发AI系统或基础模型,并将其投放市场或以其他方式投入使用的一方,无论收费还是免费。
- 部署者(Deployer):在专业活动中使用AI系统的自然人或法人,通俗讲就是“买来用”的企业用户。
- 进口商、分销商、产品制造商、授权代表:按不同市场路径各承担相应义务。
也就是说,哪怕你只是“部署者”——只是买了一个AI客服系统给自家客户用——你也有一堆义务,比如要保证使用方式符合说明书、要告知用户正在跟AI交互、要做人类监督等。所以,只要你的业务链条里有“欧盟”两个字,你大概率跑不掉。
2. 核心思路拆解:风险等级越高,责任越大
2.1 为什么欧盟选择“风险分级”而不是“一刀切”
AI是个很宽泛的筐,里面什么都有:有帮人写周报的聊天机器人,有筛选简历的招聘工具,有给城市装摄像头做人脸识别的系统。用一套规则去管所有AI,要么过松(管不住真正危险的),要么过严(把创新也管死了)。欧盟AI法案的底层逻辑,是“基于风险的监管路径”。
这个思路用驾照来类比特别好理解:考C照的人能开小客车,但开大客车、危险品运输车就得有相应更高级别的资质和更严格的体检、审验流程。不能说因为“开车都有风险”,就让所有人去跟卡车司机一样考严格的试,那样整个社会出行成本就太高了。同理,AI也不能因为“AI都有风险”而统一严格要求。风险等级决定了你责任的大小。
2.2 四档风险金字塔:从“禁止”到“鼓励”
法案把AI应用分成了四个风险等级,像金字塔一样层层叠叠。
不可接受风险(Unacceptable Risk):处于金字塔顶端,属于“直接禁止”的类型。典型场景包括:
- 利用人类弱势的AI,比如针对年龄、残疾、经济状况等特征,刻意操纵行为,让人做出原本不会做的决定。
- 基于敏感属性(政治倾向、宗教信仰、性取向等)的社会评分体系。
- 危险操纵,比如深度伪造技术被拿去伪造政要发言(这里的是指一般意义上的造谣欺骗,不是特指某国)。
- 实时远程生物识别,就是在公共场所对个人进行实时人脸扫描以做身份识别,原则上禁止,但有几个极其狭窄的例外,比如寻找特定失踪儿童或威胁生命的案件,且需要司法授权。
高风险(High Risk):这个区间最需要关注,因为它是“国家重点关注、企业重点交作业”的地带。高风险AI包括嵌入产品的安全组件(比如医疗设备、机械臂、汽车)和特定领域的独立AI系统,例如:
- 教育领域中的学生评估、录取决定。
- 员工的招聘筛选、绩效评估、解雇建议。
- 信用评估、保险定价(会影响个人获得金融服务)。
- 执法中的犯罪风险评估、情绪识别。
- 移民庇护、边境管控的相关决策。
落入高风险等级,你就要承担最重的一套全生命周期义务:建立风险管理体系、数据治理、技术文档、日志记录、透明度、人类监督、准确性鲁棒性网络安全要求。从设计之初就要“嵌入合规”,不是事后补。
有限风险(Limited Risk):主要是交互类AI,比如聊天机器人、情绪识别系统等。义务相对较轻,核心是透明度——你要让用户知道他在跟AI对话,不是跟人聊天;如果内容是AI生成或深度伪造,要明确标识出来。
最小风险(Minimal Risk):比如垃圾邮件过滤器、电商推荐算法、游戏AI对手。法案不施加强制义务,而是鼓励这类AI自愿遵循行为准则。这里的潜台词是:大部分普通AI产品其实落到这一档,不必过于恐慌。
四档用一张表看清:
| 风险等级 | 典型例子 | 监管态度 | 核心义务 |
|---|---|---|---|
| 不可接受 | 社会评分、操纵行为、实时人脸识别 | 禁止 | 不得投放市场和使用 |
| 高风险 | 招聘筛选、信贷评估、医疗辅助诊断 | 严格全流程监管 | 风险管理、数据治理、文档、人类监督等 |
| 有限风险 | 聊天机器人、深度伪造内容 | 透明义务 | 告知用户“这是AI” |
| 最小风险 | 垃圾邮件过滤、游戏AI | 不强制 | 可自愿遵守行为准则 |
2.3 基础模型(GPAI)为什么被单独“加菜”
欧盟AI法案的初版提案(2021年)里其实没有单独讨论基础模型。2022年底ChatGPT一出来,整个监管讨论就被打乱了。到了2023年谈判阶段,立法者发现:如果只管“应用层AI”,不管底下的大模型,那等于只给树修枝、不除根。
于是法案专门为“通用人工智能模型”(General-Purpose AI Models,简称GPAI)设了一章。这里的逻辑是:一个基础模型可以被各种下游系统复用,如果模型本身不安全、有偏见、训练数据有问题,下游所有应用都会被污染。
对GPAI提供者来说,基本义务包括:
- 更新技术文档,写清楚模型架构、训练数据、训练方法等。
- 制定版权合规策略,特别是训练语料中是否包含受版权保护的内容,要能跟版权权利人解释清楚“我用你的书训练模型是否获得了合法授权”。
- 面向下游部署者公开关键信息,让乙方知道模型的能力与局限。
如果这个GPAI模型达到了“系统性风险”门槛——目前判断标准是训练总算力超过10^25 FLOPs(这个数字相当于业界头部模型训练量级的阈值,不是拍脑袋定的,而是参考了当时顶级模型的算力规模)——那还要额外承担更重的义务:做模型评估、开展对抗性测试(业内叫red teaming)、追踪和报告严重事件、部署网络安全保护措施等。
这里给一个基层开发者比较重要的观点:开源模型并不等于“完全免检”。法案给了免费开源的GPAI提供者一些宽容,比如透明度义务的部分豁免,但一旦达到系统性风险门槛,照样不豁免;而且下游不管用什么开源模型做高风险应用,该履行的义务一个不少。网上有些言论说“用开源模型就合规了”,属于误解。
3. 合规实操:从“看懂法律”到“落地干活”
3.1 第一步:给你的AI系统做一次“风险分类体检”
合规不复杂,但非常繁琐。第一步是先搞清楚:你的AI系统到底落在哪个风险等级里?这一步搞错,后面全盘白做。
我建议用一套排除法,从上往下问:
第一问:系统是否属于禁止清单里的实践?如果是,直接拉警报,不能做——比如说你在做一个能诱导儿童说出敏感隐私信息的语音助手,这在不可接受风险里,没得商量。第二问:系统是否用作特定高风险领域的安全组件,或者本身就是附件III里列出的高风险AI系统(教育、招聘、信贷、执法等)?如果是,进高风险赛道。第三问:系统是否属于聊天机器人、内容生成式AI,用户有可能误以为是在跟人互动?如果是,落到有限风险,做好透明披露即可。第四问:以上都不是?那基本就是最小风险,轻松了,但仍建议做基础文档,以备未来规则更新。
举个例子:某团队做了一个“AI自动生成销售话术”的插件,给欧洲的保险经纪用。一开始他们觉得这就是个内容生成工具,顶多算有限风险。但仔细看附件III,保险定价、理赔评估都被划入高风险,如果这个插件直接输出“建议报价”,而经纪人原封不动发给客户,那它本质上参与了保险定价决策,就可能被认定为高风险。这个案例提醒我们:不要从“产品看起来像什么”来判断风险,要从“它实际影响哪类决策”来判断。这也是实操中最容易栽跟头的地方。
3.2 高风险AI的七件套“合规工作流”
如果你的AI系统被归为高风险,恭喜,你获得了一份完整的“工作流大礼包”。我把它拆成七个模块,每个模块都有实际要交的“作业”:
1. 风险管理体系不能只在开发前做一次风险评估就完事。要建立持续的风险识别—分析—评估—缓解流程。实践上,很多团队用一张风险管理表,把每个AI功能的潜在风险(歧视、错判、异常失效)列出来,给每个风险打“概率×影响”分数,再针对中高分的风险写缓解策略。这条要纳入迭代流程,每次模型更新都要重新过一遍。
2. 数据治理高风险AI对训练数据的要求是:相关性、代表性、无偏见、隐私合规。实操上,至少要做到数据来源可追溯、删除逻辑清晰、对标注环节做质量监控。我建议团队把“数据质量报告”做成一个自动化产出物——比如每次训练任务跑完,自动生成一份训练集统计分析(类别分布、敏感字段扫描结果、重复率等),将来监管检查时直接交报告,不用临时翻日志。
3. 技术文档法案要求高风险AI在投放市场前准备好技术文档,向监管机构提供充分信息,以证明符合要求。实操经验是:不要最后才写文档,应该在开发过程中就同步积累。至少要包含:系统的通用描述、设计规格、开发过程、训练方法、评估结果、预期用途与限制。工具可以用Confluence或GitBook这类文档平台,用模板约束格式,方便复用。
4. 日志记录(Logging)高风险AI要具备自动记录事件日志的能力,在系统整个生命周期内保存日志,至少保留6个月(具体时间以实施细则为准)。日志要能支持追溯“系统在什么输入下产生了什么输出”。这有什么用?一旦出现事故,监管或受害者可以从日志还原决策过程,判断是算法bug还是人为使用不当。技术团队要注意:日志不仅是给开发人员debug用的,字段设计要考虑到“未来给外部审计看”的可能性。
5. 透明度和部署者信息系统要向用户和部署者说明:这个AI是做什么的、能力边界在哪、怎么用是安全的、可能出现哪些失败模式。拿招聘筛选工具举例,你必须告诉部署方“这个模型不是用来做唯一录取决定的”,并且说明它如何在性别、种族等维度上规避偏见。注意:这不是免责声明,而是“使用说明”,得有实质内容。
6. 人类监督法案要求高风险AI设计成“可以被自然人有效监督”。这里有一个很容易走的误区:把人类监督理解为“界面上放一个确认按钮”。实际上,如果操作员对整个决策过程一无所知,也无法调整或干预,那这个按钮就是摆设,不构成有效监督。正确做法是设计可干预的接口:系统输出高风险建议时推送给人类审核人,审核人可以看到模型依据,并能选择“拒绝”“调整参数”“暂停使用”。这类机制要在产品PRD里变成正式功能,不是上线后补一个弹窗。
7. 准确性、鲁棒性、网络安全系统要在整个生命周期里保持符合预期水平的准确性和鲁棒性。“鲁棒性”就是不因为输入数据的轻微扰动而输出错误结果;网络安全要求是防止有人针对AI系统发动对抗攻击。实操建议:建立持续监控机制,设定关键指标(如准确率、拒识率、误报率)的阈值,低于阈值就自动告警。同时定期做对抗性测试,把模型“黑盒”和“白盒”攻击的漏洞记录在案,修复后再上线。
3.3 GPAI模型提供者该准备什么
如果你的团队就是做基础模型或大模型的,时间就比较紧了。因为GPAI条款在2025年8月就开始适用。你需要准备的东西我列一份清单:
- 模型文档:写清楚模型架构、参数规模、训练数据来源、数据处理方式、评估结果。
- 版权合规策略:建立对训练数据的版权风险评估流程,至少要做到:知道数据从哪来、是否包含受版权保护的材料、能否证明合法获取。这对使用爬虫抓取大规模文本的团队尤其重要。
- 对下游的信息披露:给调用你API或下载你模型的开发者提供一个“模型信息卡”,内容包括模型用途、限制、偏见评估结论。这项可以用业界成熟的Model Card框架来做,别自己发明一套。
- 系统性风险应对:如果你的模型训练总算力超过10^25 FLOPs,或者委员会后续认定的其他指标达到,就要做全套风险评估、对抗测试、事件报告。
这里补充一个观点:虽然“100亿欧元算力”这个门槛看起来很高,但AI算力增长很快,可能过一两年,很多高手就能摸到这个线。所以做模型的团队不要抱着“我规模小,管不到我”的心态,以后门槛下调或者公示新指标的可能性是存在的,提前把合规能力建设好,成本是最低的。
3.4 合规工具链和团队协作
合规不是法务一个部门的事,它需要技术、产品、法务三拨人配合。我给一个实战中的分工建议:
- 产品经理负责“系统风险分类”和“预期用途定义”,这是所有合规工作的起点。
- 算法工程师承担数据治理、模型评估、日志机制实现,按技术文档模板产出文档。
- 法务团队负责把法律要求翻译成内部checklist,同时对接外部监管询问。
- 新增一个“AI合规owner”角色(可以是资深技术负责人兼任),对全流程负责,避免责任真空。
工具方面推荐:
- 用权重模型卡片工具(如Hugging Face Model Card工具包)生成标准化模型说明。
- 用Python或者SQL做“数据血缘”追踪,快速回答“这个特征来自哪个数据集”这类问题。
- 用Excel或者低代码平台维护“风险登记表”,记录每个模块的风险等级、缓解措施、负责人。
- 用notion或者Confluence搭“AI合规知识库”,把法律原文、内部解读、checklist放一起,方便全员查阅。
这里提一个常见的误解:很多人觉得“把文档写好,放到一个文件夹里”就叫合规。真正的合规审计是产品、代码、文档三者的统一。如果审计员看到你技术文档里声称“系统集成了人工审核机制”,但在代码里根本找不到对应的接口,那就不是“不完善”的问题,而是“不合规”的直接证据。技术团队一定要把合规要求落实到代码仓库里,形成“可被审计的证据链”。
4. 常见问题与排查技巧实录
4.1 五个最容易踩坑的地方
合规落地过程中,我见过很多团队栽在同一个地方,这里挑五个典型问题展开说。
坑一:轻视“部署者”的身份很多企业认为“我买别人家的模型API来用,有问题也是提供者的问题,跟我无关”。这在欧盟AI法案里说不通。部署者也被赋予了一堆义务:要保证使用者了解系统能力边界、要在高风险场景里履行人类监督、要保存系统日志。举例:一家欧洲咨询公司买了一套AI合同审查工具,如果它未向客户披露“审查结果含AI建议”,出了纠纷,咨询公司自己也要担责。所以,只要你是“用AI的一方”,就要把AI当成一个“有使用规则的员工”来管理,不是甩手掌柜。
坑二:对开源模型的豁免政策理解过头法案确实规定,非系统性风险的免费开源GPAI提供者可以豁免部分透明度义务。但很多人把这个想成“开源即免责”。实际上,下游开发者一旦将开源模型集成到自己的高风险系统里,所有高风险义务对象立刻变成“你”,而不是上游开源作者。用Meta的Llama部署医疗分诊系统,系统出事,追责的是部署方。开源只是一个上游链条,不会替你挡全部责任。
坑三:把“人类监督”做成形式主义我在前面已经提过,这里再强调一遍。欧盟监管的思路不是“只要有个人确认就行”,而是“监督要能真正改变结果”。一个设计良好的人类监督机制,应该是:人类能看到系统的置信度和依据、能修改或拒绝系统建议、能在异常时中断整个系统运行。如果只是“点个通过”,那这个监督等于不存在。技术人员在设计阶段就要把这些能力焊进系统里。
坑四:忽视“数据版权合规”的时间成本很多团队做训练数据清洗,主要考虑的是去重、去隐私信息,很少考虑“版权”问题。欧洲特别看重版权合规,尤其是文本和图片生成模型。这意味着训练数据的来源、授权链条、版权保留内容占比,都可能成为被检查的对象。我建议:现在开始对数据集的“来源字段”做标记,比如爬取的网站域名、购买的数据包协议、众包标注的授权条款,形成一张“数据来源登记表”。即使现在没有大模型,将来做微调、做RAG(检索增强生成),这张表都能给你省下大量时间。
坑五:合规只做“上线前一次”AI系统是持续学习的,数据变了、模型权重变了、使用场景变了,风险也可能变。欧盟AI法案的导向是“全生命周期合规”,不是“一次性认证”。实践中,我建议每季度做一次“AI合规健康检查”:对比当前系统和初始登记的技术文档,看是否有偏差;检查日志是否完整;检查监控指标是否存在长期告警;确认新增功能是否扩展了原风险等级。把这个流程固化下来,比一年做一次大的合规评审有效得多。
4.2 合规排查速查表
为了方便快速自查,我把高频问题整理成表格:
| 高频问题 | 常见错误做法 | 正确应对思路 |
|---|---|---|
| 公司在欧盟之外,系统只做本地业务 | 认为与欧盟法案无关 | 输出只要在欧盟境内产生可预期影响,就可能被管辖 |
| 用开源大模型做产品 | 认为上游开源作者承担合规责任 | 下游高风险系统的义务由部署方/提供方承担 |
| 系统是聊天机器人 | 只做功能开发,不提示“AI生成” | 有限风险也要做透明披露,标识AI身份 |
| 模型可能参与招聘/信贷决策 | 自认为是“通用工具”而非高风险 | 从实际决策影响判断风险等级,宁可从严评估 |
| 人工审核流于形式 | 让审核人员只点“确认” | 设计可干预、可拒绝、可中断的实质监督机制 |
| 没有集中文档管理 | 合规材料散落在个人电脑/聊天记录中 | 建立共享知识库,文档随代码版本同步更新 |
| 担心合规成本太高 | 等待监管上门再处理 | 尽早把合规能力嵌入研发流程,摊薄成本 |
4.3 一些实用建议和避坑心得
如果看完上面这些还是觉得无从下手,我建议你用一个最小化的方案起步:先给团队内部写一份“AI风险自评表”,不用管法律术语,就用谁都能看懂的字段——这个系统做什么?给谁用?如果判断错了,最严重的后果是什么?系统是自动决策还是辅助决策?用户知道在和AI打交道吗?把这几项填出来,就已经完成了合规工作的基础建筑。
一个比较意外的发现是:合规过程其实是产品质量的体检。很多团队做完一整套文档和监控,发现此前对系统边界、失败模式、数据来源的认知如此模糊。“AI合规”不完全是法律负担,它逼着你把产品想透。那些从来没琢磨过“我的模型在什么场景下会输出错误结果”的团队,做完合规后,往往顺带修掉了一堆潜在线上事故。
另外,我建议大家订阅欧盟官网的AI法案专题页面和后续发布的“实施细则”文件。这部法律不是定稿后就不动了,很多技术细节还需要通过授权法案进一步明确。比如“高风险附件III”的更新机制、透明度标准的具体格式、日志字段标准等,未来会有更多细则出台。能跟上这些更新,比什么都重要。
欧盟AI法案是所有AI从业者都值得列入长期跟踪清单的一部规则。它现在可能还不会立刻管到每个角落,但它的方法论——以风险定责任、以透明度促信任、以全生命周期约束技术——很可能会成为未来全球各地AI立法的共同参照。作为从业者,与其等到被客户、被平台、被监管追问时才慌忙翻法条,不如现在就动手把自家系统的“家底”摸清楚。别小看这一步,合规的底气都是一点一点攒出来的。