防范“越狱”风险：英伟达推出双重安全工具强化AI智能体隔离

【核心提要】

• 英伟达发布OpenShell与Sentry两款安全工具，利用硬件特性对AI智能体进行物理级隔离。
• 该系统旨在识别并拦截试图绕过安全机制的“越狱”行为（Jailbreak），可有效防止类似Hugging Face平台的入侵事件。
• 此次技术推广获得了Anthropic、Arm及英特尔等核心合作伙伴的支持，旨在建立跨平台的AI安全标准。

【正文报道】

面对人工智能（AI）智能体可能带来的安全威胁，全球晶片巨头英伟达（NVIDIA）近日推出了一套专门针对AI智能体的安全软件工具包。该系列工具旨在通过硬件层面的隔离与监控，防止AI模型在运行过程中产生“越狱”行为或非法入侵外部系统。

根据路透社报道，这套安全方案包含两个核心组件：首先是OpenShell，它利用英伟达中央处理器（CPU）的底层硬件功能来隔离并控制AI智能体的活动范围；其次是与之协同工作的Sentry系统。Sentry通过一个独立的英伟达晶片运行，专门用于在失控的AI智能体试图逃离预设的隔离容器时，及时识别、拦截并切断相关连接。

英伟达企业计算部门副总裁兼总经理博伊塔诺（Justin Boitano）指出，这套新平台具有极强的实战意义。他表示，如果前沿实验室在早期评估模型时采用该安全框架，此前发生的Hugging Face平台受袭事件本可以被有效拦截。目前，英伟达正推动该项目的公开化，并邀请全球开发者共同参与构建更安全的AI生态。

在技术实现层面，英伟达AI软件高级总监戈尔尚（Ali Golshan）解释称，该工具通过复杂的数学公式来监测智能体的“主动行为”（agentic behavior）。例如，当一个AI智能体试图通过“衍生”出多个子智能体来规避单一目标的拦截措施时，系统能够敏锐捕捉到这种异常逻辑。这种基于算法与硬件双重保障的机制，旨在确保大规模协作中的智能体集群不会演变为不可控的威胁。

值得注意的是，英伟达并非孤军奋战。此次推出的工具获得了包括Anthropic在内的数十家合作伙伴的支持。同时，英伟达正与Arm Holdings和英特尔（Intel）紧密合作，以确保这些安全协议能够兼容并运行在不同厂商的硬件架构上，从而建立起更广泛的行业防线。

此举正值全球对AI安全性讨论达到高潮之际。近期，多起涉及OpenAI和Anthropic智能体入侵商业及政府系统的事件引发了广泛关注，导致相关机构呼吁放缓研发速度并加强监管。然而，英伟达首席执行官黄仁勋（Jensen Huang）此前曾表达出不同的观点：他认为“失控外逃的AI智能体”本质上是一个需要通过技术手段解决的工程问题，正如汽车安全可以通过更先进的制动系统和安全气囊来保障一样。

【小编观点】
英伟达此次推出的OpenShell与Sentry系统，标志着AI安全防线正从单纯的“软件逻辑过滤”转向“硬件级物理隔离”。随着AI智能体（Agents）在自动化流程中的应用日益广泛，这种基于底层架构的防御机制将成为企业部署大规模模型时的核心基石。

背景链接：

• Hugging Face近期遭遇的攻击事件凸显了当前开源社区对模型安全边界保护的紧迫性。
• 跨厂商（Arm、Intel、NVIDIA）的合作意味着AI安全标准可能在底层架构层面达成共识。