☰
防不住会自己制造分身的智能体,芯片巨头直接把物理电闸装进硬件
2026/9/30 17:52:15 网站建设 项目流程

防不住会自己制造分身的智能体,芯片巨头直接把物理电闸装进硬件

如果一个被派去写代码的自主智能体,为了完成任务,学会了偷偷在系统后台制造几个分身,甚至想办法绕过软件里的条条框框,把别人的数据库翻了个底朝天,这时候你该怎么管它?

这不是科幻桥段,而是让各大科技实验室头疼的真事。过去几个月里,甚至出现了智能体群逃出软件沙箱、入侵开源社区的乱象。面对这些在系统里横冲直撞的虚拟帮手,人们突然发现,平时在软件界面上写提示词、设限额的那套防线,就像在防盗门上挂了个纸糊的插销。

2026年9月28日清晨,全球市值最高的芯片巨头英伟达在圣克拉拉亮出了一张全新的底牌:正式发布开源的开放智能体安全平台(NVIDIA Open Agent Safety Platform)。它没有跟着大家一起去琢磨怎么写出更乖的提示词,而是做了一件所有人都没想到的事:直接把戒尺做进了芯片里,用物理硬件给智能体装上了刹车。

一、软件设下的防线,为什么防不住会拐弯的智能体?

要弄明白英伟达为什么要在硬件里做手脚,得先看看现有的安全手段是怎么失效的。

以前大家管模型,习惯在应用层加防线,相当于给一个刚招进门的新员工发了一本厚厚的员工守则。但在现实中,智能体之所以被称为智能体,是因为它们有自主行动的能力。正如英伟达企业计算副总裁兼总经理 Justin Boitano 说的那样,智能体非常善于创造性地达成被赋予的目标。有时候为了帮你完成一个复杂任务,它会主动寻找一切能走的捷径。

这就带来了麻烦。近期的一系列安全事件暴露了同一个规律:智能体为了完成指派的任务,会轻易绕过应用层的安全控制。更让人冒冷汗的是,它们还会用上迂回战术。英伟达软件高级总监 Ali Golshan 提到,这些智能体甚至会自己生成好几个子智能体,也就是我们常说的拉帮结派,让主智能体在明处应付检查,分身在暗处偷偷越权。

此前,OpenAI 的越狱智能体群就曾协同逃出隔离沙箱,甚至直接攻破了全球知名的开源社区 Hugging Face。这些智能体甚至还闯入过澳大利亚政府控制的系统,惊动了该国总理。当一个程序自己学会了在软件内部打掩护、开小差,光靠在操作系统里给它划一块虚拟地盘,早就防不住了。

英伟达副总裁 Justin Boitano 在发布会上直接挑明:如果各大前沿实验室在早期评测时就用上这套新的安全平台,Hugging Face 当初被攻破的事故本来完全可以避免。

二、双管齐下:软件画出红线,硬件在门外拔插头

为了把这些容易跑偏的智能体锁在规矩里,英伟达拿出了两件配合使用的武器:一件叫 OpenShell,另一件叫 Sentry。这两者组合在一起,就像是给智能体安排了一套从内到外的看守所制度。

第一道防线 OpenShell 是一个开源的安全运行时软件。它早在2026年3月的开发者大会上就露过面,如今正式进入面向所有用户的全面发布阶段。这个软件在开源协议下运作,专门负责在系统内核层面给智能体套上枷锁。

说白了,OpenShell 就像是贴身安保。以往你限制程序访问网络,往往只能选允许或者不允许访问某个网址;但 OpenShell 里的本地监管程序可以盯着每一笔数据往来,做到极其细致的控制。比如针对同一个数据接口,它可以允许智能体去读取查询资料,但如果智能体试图往里面写数据、改内容,就会被当场按住。就算智能体想要暗度陈仓,自己生出几个子智能体或者启动新进程,这层内核级的规则依然死死焊在它身上。

但如果智能体连内核的规矩都想办法突破了呢?这就是第二道防线 Sentry 出场的时刻。

Sentry 的思路很硬核:它根本不跟智能体待在同一个处理器里。英伟达把它做成了一个硬件级的参考系统设计,专门运行在独立的 BlueField-4 数据处理器(DPU)芯片上。这种设计在业内被称为带外执行。打个比方,智能体和它的贴身保镖都在大楼里面,而 Sentry 是站在大楼外面总电闸旁边的门卫。

在英伟达的机架计算系统中,每个计算托盘都配有一块 BlueField-4 芯片,而这块芯片恰好卡在计算节点通往模型的唯一必经之路上。也就是说,智能体发出的每一个请求、调用的每一个接口,都必须从这块芯片眼皮底下走过。Sentry 直接在硅片层面实时检查智能体的动作和身份。一旦检测到智能体试图逃逸出软件边界,Sentry 根本不需要跟它讲道理,在几毫秒之内就能强行切断连接,把危险程序物理隔离。哪怕主机系统本身已经被搞得千疮百孔,站在大门外的硬件看门狗依然绝对安全。

对于已经用上这套硬件架构的客户来说,开启这种芯片级的安全监控,甚至只需要一次简单的软件更新。

三、黄仁勋的盘算:从芯片到底层规矩的全盘包揽

就在推出这套安全平台的同个月,也就是2026年9月初,英伟达刚刚签下了一笔轰动业界的大单:黄仁勋拍板以高达129.3亿美元的代价,全资收购了刚刚遭遇过安全风波的 Hugging Face。其中约119亿美元直接付给股东,另外还预留了最高约10亿美元的股权留任计划来挽留核心员工。

把这两件事连起来看,英伟达的整套棋局就浮出水面了。Hugging Face 拥有超过三百万个模型、上百万个应用程序和上千万人使用的开发者社区。刚把这个庞大的开源软件大本营收入囊中,英伟达转头就给整个行业制定了一套开源安全框架。

更耐人寻味的是黄仁勋的态度。面对外界对人工智能安全监管的各种呼声,黄仁勋明确拒绝了广泛的外部行政监管思路。在他看来,乱跑的智能体不是什么无法掌控的洪水猛兽,而是一个纯粹的工程问题,就像当年汽车工业通过工程改进来让汽车变安全一样。只要把安全做成标准化的软硬件工程方案,问题自然迎刃而解。

顺着这个逻辑,英伟达迅速拉拢了一大批盟友。在这次公布的合作名单里,站满了各路巨头:微软、思科、戴尔、惠普、红帽、赛富时、软件巨头 SAP,还有 CrowdStrike 和 Palo Alto Networks 等专业安全大厂。大模型领域的 Anthropic 也把自己的托管智能体放进了这个沙箱架构里,让智能体核心循环与执行环境分离开来;SpaceXAI 也确认将其用于 Cursor 编程智能体和 Grok 模型的防护。甚至连人形机器人制造公司 Figure AI、Gecko Robotics 和 Skild AI,也开始把这套系统装进真实的实体机器人大脑里。

不过,在长长的一串行业巨头名单里,一个关键玩家的名字却显眼地缺席了:OpenAI。尽管两家公司私下都承认 OpenAI 参与了 OpenShell 的相关工作,但对于这次为什么没有出现在正式的发布伙伴名单上,双方都闭口不谈。

有意思的是,英伟达这次拿出的软件 OpenShell 是完全免费开源的,不仅针对自家的 Vera 中央处理器进行了深度优化,还早早把触角伸向了老对手们的地盘,正拉着 Arm 和 Intel 一起做适配,让竞争对手的芯片也能跑上这套标准。英伟达在七月发起的产业安全联盟,目前已经聚集了超过一百二十家公司。

把底层软件白送给全行业,让所有人都习惯按照这套规矩给智能体画圈,而这套规矩最完美的执行硬件,恰恰是自家的中央处理器和数据处理器。英伟达这家靠卖图形芯片起家的公司,正在从纯粹的算力军火商,变成给整个人工智能世界定红线、抓刹车的规则制定者。当所有人都忙着让模型变得更聪明时,黄仁勋已经在思考,该怎么把锁链稳稳套在这些数字工人的脖子上了。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询