快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 09-28 · 星期一 · 09-28 00:00 约 1 分钟读完

NVIDIA推开源智能体安全平台,芯片级监控防越权

摘要

NVIDIA发布Open Agent Safety Platform,含开源运行时OpenShell、硬件层Sentry及DOCA技术,通过内核级隔离、零信任环境和带外监控防止AI智能体行为漂移与越权,BlueField DPU在模型路径上实时执行策略与身份治理。

随着AI智能体在各类生产环境中的部署规模持续扩大,其行为可控性与系统安全性正成为业界关注的焦点。NVIDIA近日推出NVIDIA Open Agent Safety Platform,试图从底层架构层面回应这一需求。

该平台由三部分构成:开源运行时OpenShell、硬件层Sentry以及DOCA技术。据NVIDIA介绍,平台的核心思路是借助内核级隔离、零信任环境和带外(out-of-band)监控,阻止AI智能体出现行为漂移或越权操作。

在具体机制上,OpenShell负责将操作指令转化为可验证的策略。BlueField DPU则被置于模型路径上,承担实时策略执行与身份治理的职责。NVIDIA强调,即便主机环境不可信,该架构仍能独立提供保护。

此次发布意味着NVIDIA正将安全能力从软件层向芯片级延伸,为智能体的大规模落地提供更底层的防护选项。

NVIDIAAI智能体安全开源平台BlueField DPU
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词