先说我看到这封公开信时的第一反应:这不是又一轮关于“AI会不会毁灭人类”的立场站队,而是把一个大模型安全圈内已经吵了很久的问题,正式推到了行业规则层面。
406位研究者联署,呼吁具备网络攻击能力的AI模型默认采用物理隔离部署。关键词是“网络攻击能力”,落点是“默认物理隔离”。这两个词拼在一起,意味着以后凡是训练出了漏洞挖掘、恶意代码构造、自动渗透这类能力的模型,不能随随便便放在公网云服务或者普通内网上供调用,要先把它关进网络意义上的“笼子”里,经过严格评估之后才能谈开放。
对于做AI基础设施、大模型安全评估和红队测试的人来说,这个话题一点都不抽象。它就是上线评审表里那一栏“该模型是否具备攻击辅助能力”,也是运维群里那句“这个模型的权重是不是应该放在隔离网段”,更是安全团队排查日志时发现某个Agent在自动调用扫描器的瞬间。
这篇文章不打算复述公开信的每句话,而是想把它拆开:为什么是“默认”,为什么是“物理隔离”,落到工程上怎么实施,以及刚接触这类要求的团队,应该怎么调整自己的评估流程。
1. 公开信的三个核心诉求:默认、物理隔离与责任倒置
公开信的核心逻辑线并不复杂:AI模型的网络攻击能力在过去两年提升得很快;这种能力一旦扩散,影响面是系统性的;所以在制度设计上,应当把“物理隔离”作为高危模型的默认状态,而不是等风险暴露后再补措施。
这里有三个容易被滑过去的关键词。
第一个是“具备网络攻击能力的AI模型”。它指的不是那种聊天时偶尔生成一段危险代码的通用模型,而是指经过评估、具备稳定输出攻击性内容能力的模型。这类模型可能被用于自动发现漏洞、编写利用代码、绕过防护设备,甚至配合Agent框架完成从信息收集到横向移动的完整攻击链路。
第二个是“默认”。这个词是整封信的分量所在。过去行业普遍采用的是“按需隔离”模式:模型先上线、先开放API,出现安全事故或者暴露出危险能力之后,再给它加白名单、撤权限、放到隔离环境。这种模式的问题在于,攻击性的扩散往往是一瞬间的事情,等数据包落进日志再动手,损失已经发生了。默认隔离正好把顺序倒过来:先断网,再评估,评估通过才放宽网络边界。这就像数据中心的消防设计,不是等起火才去买灭火器,而是先按规范配齐,再谈要不要改动。
第三个是“物理隔离”。这个词很容易被误解成断网或者离线运行。实际上在工程语境里,物理隔离指的是模型运行环境的网络边界、资源边界和交付链路都独立受控,不能随意对外发起连接,也不能被外部任意访问。它可以是真正意义上没有网线的物理断连,也可以是用防火墙策略加容器隔离实现的高度受控逻辑隔离。关键在于“默认不受信任”。
对比一下两种模式:
| 维度 | 按需隔离 | 默认隔离 |
|---|---|---|
| 上线顺序 | 先开放、后收紧 | 先隔离、后审批 |
| 责任归属 | 出事再追责 | 默认限制、例外放行 |
| 评估时点 | 事故或检查时触发 | 上线前和版本更新时触发 |
| 对安全团队要求 | 事后取证能力 | 事前风险评估能力 |
| 业务影响 | 灵活但风险滞后 | 流程重但对冲风险 |
还有一点值得注意:公开信并没有主张把所有模型都关起来。它画出的边界是“具备网络攻击能力”这一段,而不是所有生成式模型。这说明签署者群体内部显然经过权衡,他们想限制的是武器化潜力,而不是正常的模型研发和应用。
2. 怎样判定一个AI模型是否具备网络攻击能力
这个问题是所有讨论的起点,也是最容易产生分歧的地方。一个模型能不能算“具备网络攻击能力”,不能只看它拒绝还是接受某个恶意请求,而要看它在能力维度上稳定地呈现出什么行为。
我把实际评估时关注的维度整理成了四个类别:
| 能力维度 | 具体表现 | 为什么危险 |
|---|---|---|
| 恶意代码生成 | 能编写混淆脚本、免杀载荷、漏洞利用代码 | 把攻击门槛从“专家级”拉低到“工具级” |
| 漏洞分析辅助 | 能阅读CVE描述和二进制反汇编,给出利用思路 | 发现攻击链路的速度碾压人工分析 |
| 工具调用与执行 | 能调用扫描器、代理链、API,自主进行探测 | 从“建议”变成“行动”,具备闭环能力 |
| 信息收集与绕过 | 能从海量指纹中识别目标弱点,生成绕过方案 | 攻击成功率不再依赖人的经验 |
在具体项目里,这四类能力往往不是独立出现的。一个用于安全研究的大模型可能本身就具备漏洞分析能力,但如果给这个模型接上浏览器工具、命令执行接口和无限制联网权限,它就能在几小时内对一个中小型内网跑完一轮侦察加渗透。没有隔离的情况下,这种组合的风险就很直接。
这里要特别强调“通用大模型与攻击能力的交叉点”。很多人认为只有经过恶意微调的模型才有攻击性,其实不是。通用能力模型在红队评测中表现出的代码理解、长上下文分析和工具调用水平,已经足够生成早期阶段的攻击载荷。加上越狱和系统提示词层面的操作,攻击者不掌握任何训练技能就能把通用模型变成定向攻击助手。因此评估的标准不能只看模型权重本身,还要看它在所处环境里被赋予的权限和工具链。
评估的时效性同样是个头疼的问题。模型更新很快,今天评估通过的版本,下一轮微调之后能力可能上一个台阶。所以对攻击能力模型的评估不能做一次就完事,需要在每次版本迭代、每次新增插件或工具权限时重新走一遍。很多团队在这一点上吃了亏,后面我会专门讲。
3. 物理隔离不是简单断网:落地路径与工程代价
物理隔离听起来就是把网线拔了,但真正落地的时候会发现,难点在于如何在隔离的同时保持模型研发、推理、评估和迭代的基本运转。完全断网的高危模型训练环境,会让数据进不去、模型出不来、评估做不了,最后退化成一台摆设。
我根据自己的实践,把实施路径分成三个层次。
3.1 网络层隔离:从默认路由和策略上堵死出站
网络层是第一步。高危模型的推理节点应当部署在独立的隔离网段,出站方向默认丢弃,入站方向只放行来自特定管理终端的访问。核心思路是双向收口,而不是只做单向防火墙。
以Linux服务器为例,简单的开始可以先这样配置:
# 高危模型推理节点:出站默认全部拒绝 iptables -P OUTPUT DROP # 仅允许访问内部模型网关(如10.10.10.2的8443端口) iptables -A OUTPUT -p tcp --dport 8443 -d 10.10.10.2 -j ACCEPT # 回环与同机服务不受影响 iptables -A OUTPUT -o lo -j ACCEPT # 入站只允许特定运维跳板机(如10.20.1.5)的SSH管理端口 iptables -A INPUT -p tcp --sport 22 -s 10.20.1.5 -j ACCEPT iptables -A INPUT -m state --state ESTABLISHED,RELATED -j ACCEPT关键点在于:高危模型所在主机的默认路由不要指向互联网,DNS解析也要走内部解析器。否则模型一旦被诱导发起外连,第一波流量就可能先打出去。实践中很多人只写了入站白名单,出站却全部放开,这等于把门锁了,窗户开着。
3.2 运行时隔离:容器与操作系统的双重收口
网络层只是第一道墙。攻击型模型往往通过沙箱和工具调用发起动作,所以必须再往上收口运行时环境的权限。
我在布置高危模型时通常会使用容器加只读文件系统,禁止容器内执行未授权的编译器命令,禁止挂载宿主机的敏感目录。同时开启命名空间隔离,切断进程间通信。这样即使模型输出的内容真的被当成了执行指令,也无法直接影响到宿主机。
操作系统层面,高危模型节点应该是专用机器,不部署其他业务服务。内核的模块加载要关闭,默认用户权限降到最低。如果条件允许,建议用单独的管理跳板机做带外管理,运维人员先从普通办公网登录跳板机,再通过审批过的会话进入隔离区。整个过程保留审计日志,记录每一次模型调用和每一次文件导入导出。
3.3 数据摆渡与迭代闭环:隔离环境不能变成死水
隔离实施之后,最常遇到的问题不是安全措施不够,而是数据进不来、出不去。训练数据要导入,模型权重要更新,评估样本要流转,这些环节如果全部依赖运维手动拷贝,效率和可控性都会出问题。
工程上通常会在隔离网和办公网之间架设数据摆渡服务:出方向和入方向的数据都写入独立的临时中转区,由人工或自动化脚本做内容过滤和安全扫描,再批量搬运。对安全评估团队来说,所有评估任务应当通过内部的评估平台提交,平台负责把测试样本送进隔离域并回收输出,而不允许评估人员直接对模型发起任意网络连接。
这样做还有一个额外好处:可以审计每一次模型交互。谁提交了什么样本、模型给出了什么回答,全程留痕。一旦出现风险事件,排查链路会很清晰。
3.4 实际项目里的工程代价清单
物理隔离必然带来代价,不说清楚就是耍流氓。最直接的影响之一是模型更新延迟。外部新公开的威胁情报和攻击特征库,不能即时同步进隔离环境,需要经过数据摆渡和审核流程,往往会有几个小时的滞后。
第二个代价是运营复杂度上升。过去一条API就能调用的模型,现在要经过跳板机、审批流、数据摆渡三套流程。团队成员需要适应新流程,跨部门协作也会变多。老实讲,一些比较赶的迭代任务,很容易因为这个流程被拖慢。但和攻击能力扩散的风险相比,这个代价是值得的。
4. 支持者与质疑者各执一词:这场争论真正的分歧在哪
公开信发布之后,圈内讨论很多。支持方、质疑方和中立方的观点,大致可以归纳成几条。
4.1 支持方视角:能力一旦扩散,没有后悔药
支持方的核心逻辑是概率换增量。攻击型AI模型不像传统漏洞,它把攻击能力工具化之后,使用门槛会降到很低。一个不熟悉网络安全的人,只要自然语言描述清楚目标,就可以让模型生成一整套攻击思路和恶意载荷脚本。这种扩散一旦发生,影响范围是乘法级的。
所以支持物理隔离的人,担心的不是个别模型被滥用,而是整套能力被人批量搬运。把高危模型默认隔离,相当于在源头上增加一层摩擦。攻击者想拿到安全能力,得先突破物理隔离这道网,而不只是申请一个API密钥那么简单。
4.2 质疑方视角:评估不统一,会误伤防御型研究
质疑的声音也很实际。首当其冲的问题是评估标准不统一。什么算“具备网络攻击能力”?不同的团队、不同的测试方法,得出的结论可能完全不同。一旦规则落地成清单,那些为了做防御研究而训练的攻击模型可能会被一刀切封掉,正常的安全研究反而受限。
还有人担心物理隔离带来的“孤岛效应”:模型不联网,无法获取最新情报,攻击防御评估能力反而下降。防御方需要不断用新的攻击手法测试自家系统,如果环境隔离导致样本更新太慢,模型的实战价值就打折了。
4.3 大多数工程团队的中间立场
抛开立场鲜明的人,大部分做工程的人态度比较一致:支持把高危模型与普通业务环境做隔离,但希望隔离策略是分级的、可调整的,而不是无差别锁死每个模型。
比较合理的形态是建立一套基于能力评估的分级机制,把模型分成全隔离、受限开放、普通开放几个档位。具备自主调用工具能力的模型放隔离区;只有代码生成能力但无法执行工具的模型,放到受限网络;能力单一且风险低的模型,保留在常规环境里。这样既保留了研发效率,又对高风险场景做了硬隔离。
我觉得这个中间路线在实操中更可行。因为物理隔离不是终极目标,它只是给安全评估争取时间窗口的手段。没有评估能力的团队,就算把所有模型都隔离了,也只是给自己挖了个更大的运维坑。
5. 落到工程团队:模型上线流程应该如何调整
讨论到这里,该说点能直接用的东西了。
5.1 安全评估清单:不是所有模型都需要同一套隔离
我建议每个模型上线前,都必须过一遍能力评估。评估结果直接决定部署环境。清单不用特别复杂,大致可以这样列:
- 模型能否生成可运行的攻击载荷或漏洞利用代码;
- 模型能否调用外部工具、执行命令或访问文件系统;
- 模型是否具备漏洞分析辅助能力,尤其是底层二进制层面的分析;
- 模型是否能自主规划多步攻击流程;
- 模型对外提供的接口权限范围。
评估结果如果是高风险,那部署时就把模型放进隔离区,不接公网API,不给外部集成权限。中风险模型可以部署在受限网络,通过带审计的网关开放调用,但禁止出站外连。低风险模型按正常流程走。
5.2 用部署策略“强制”而不是靠自觉
人工评估总会有疏漏,所以还得靠基础设施层面做强制约束。我这里会利用镜像标签和部署策略,让高风险的模型只能被调度到隔离集群,普通集群根本不接受这类镜像。比如给模型镜像打一个“attack-capable”的标签,然后在调度器上配置规则,这类标签的Pod只能落到带“隔离域”污点的节点上。
这样即使有人误操作,想在普通环境启动高危模型,调度器也会直接拒绝。这种把安全策略固化到基础设施的做法,比在文档里写一百条流程都管用。
5.3 我踩过的三个真实小坑
第一,只看权重不看工具链。早期我评估过一个模型,当时觉得它代码生成能力虽然强,但还没有到武器化的程度,于是只按中风险放行。后来给模型接了一个Agent框架工具,它可以自己扫描端口、生成对抗样本发起请求,风险等级完全变了。教训是:评估必须包括模型周围的能力工具链,不能只看模型本身。
第二,隔离设备上的管理口权限被忽略。有次做物理隔离检查,发现防火墙策略虽然把业务口全堵了,但带外管理口居然可以直接访问办公网。等于前门焊死,后门开着。现在设计网络策略时,我会要求管理口和业务口分开分别过审计。
第三,模型版本升级后评估没有同步重跑。旧的高危模型一直隔离着,测试没问题。换到新版本脚本比对的时候,发现评价标签没有更新,前一版的安全策略还挂在旧镜像上,新镜像反而裸奔了一段日子。从那次之后,我把版本变更和重新评估绑定成同一个流程,版本不升级完不算结束。
坦白说,一开始看到“默认物理隔离”这四个字,我也觉得这个要求是不是太重了。但做了几年攻防评估和基础安全建设之后,我的看法变了:对高危模型网开一面,省下来的是运维时间,赌上的却是能力扩散之后不可控的后果。物理隔离这个动作本身并不高贵,它只是把“默认不信任”变成了默认设置,然后让每一层开放都要经过真正的评估和授权。如果你也在做相关的大模型安全评估,建议下一轮版本发布就把这套默认隔离的评审逻辑加进去,别真等出了事才想起来要走这个流程。