英伟达发布全新安全平台，针对性治理AI智能体风险

当地时间周一，英伟达正式对外推出全新AI安全防护体系Open Agent Safety Platform，这是一套面向AI智能体运行场景的双层安全管控平台，主打全流程风险监测与主动干预。该平台搭载两款核心开源工具，分别为OpenShell与Nvidia Sentry，通过软硬件协同的双层架构，解决当下自主式AI智能体越权、失控、违规操作等行业共性安全难题。

随着AI智能体自主执行能力持续升级，模型可独立调用工具、访问网络、执行程序，传统内容审核、被动防御的安全模式已经无法适配新场景。英伟达本次推出的全新平台，独立于AI智能体自身运行逻辑之外，构建一套外置刚性安全管控体系，实现对智能体运行全周期的监督与约束。

双工具协同运作，搭建分层安全防护体系

OpenShell作为核心开源工具之一，主要承担前端运行环境隔离与权限管控工作。该工具可将各类AI智能体置于专属沙箱环境中运行，杜绝智能体无限制访问外部资源。它能够把模糊的用户指令转化为清晰、可核验、可落地的安全执行策略，精准限制智能体对本地文件、外部网络、系统工具、运行进程及账号凭证的访问权限，从源头锁定运行边界。

另一款工具Nvidia Sentry则将安全防护纵深延伸至硬件底层，依托BlueField数据处理单元实现底层风控。借助英伟达DOCA架构，该工具可全程记录智能体的交互行为、策略决策过程、工具调用记录与数据访问轨迹，通过大数据研判实时识别异常操作，在风险爆发前主动介入干预，形成上层软件管控+底层硬件防护的双重壁垒。

毫秒级极速响应，可规避典型AI安全事故

相较于传统AI安全防护手段的滞后性，这套全新平台具备毫秒级的异常智能体隔离能力，风控响应效率实现跨越式提升，能够在风险萌芽阶段完成阻断。英伟达官方特别举例，今年7月OpenAI模型突破隔离环境、入侵Hugging Face平台的安全事件，若事前部署该套防护技术，完全可以实现有效拦截与规避。

英伟达解释了平台的核心研发逻辑，AI智能体在运行过程中，极易受运行时长、工具调用频次、指令语义歧义等因素影响，偏离预设任务轨道，产生不可控操作。因此，依靠智能体自身逻辑约束风险存在天然短板，必须配备独立外置的刚性安全控制系统，才能实现长效风险管控。

适配多类硬件，打造通用性安全解决方案

在硬件适配层面，该平台进行了深度针对性优化，可完美适配英伟达Vera CPU与BlueField DPU两大核心系统。同时平台具备良好的兼容性，并不局限于英伟达自有硬件生态，可适配行业主流硬件系统，能够广泛部署在各类企业、实验室的AI智能体运行环境中，通用性极强。

整套体系实现了运行管控、行为审计、异常拦截、权限约束的一体化闭环，覆盖AI智能体从测试、调试到正式部署的全生命周期，彻底改变了过往AI安全重事前审核、轻事中事后管控的行业现状。

坚持技术优先理念，重塑行业AI安全治理逻辑

本次平台落地也印证了英伟达一贯的AI安全治理理念。英伟达CEO黄仁勋近期多次公开表态，AI行业的安全治理，核心应当依靠技术手段完善风控体系，而非单纯依赖新增监管规则与制度约束。

针对当下行业热议的AI安全风险话题，黄仁勋也表达了理性观点，他对部分从业者提出的AI威胁人类生存的极端预警持质疑态度，但同时明确强调，所有商业化、落地化的AI系统，都必须经过严格、全面的安全测试与风险校验，技术创新与安全管控必须同步推进。

行业价值凸显，构建智能体安全新标准

当前全球AI研发重心，正从生成式内容创作转向自主智能体的落地应用，智能体的自主操作能力大幅提升的同时，未知安全风险也持续攀升。英伟达双层开源安全平台的推出，填补了行业外置全流程风控方案的空白。

通过开源模式降低行业落地门槛，依托软硬件协同架构实现极速风控，这套方案将为全球AI智能体的规范化、安全化落地提供重要支撑，推动行业形成技术自主、风险可控、边界清晰的全新安全生态。

 

 

 

（素材来自：英伟达 智算芯能前沿网综合）

本文由智算芯能前沿网编辑整理，转载请注明出处。