快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 09-28 · 星期一 · 09-28 17:33 约 1 分钟读完

英伟达推出AI智能体安全平台,Sentry系统实现毫秒级异常隔离

摘要

英伟达发布开放式AI智能体安全平台,由OpenShell安全软件与Sentry看门狗系统组成。OpenShell为CPU端智能体设定运行边界,Sentry则依托BlueField-4 DPU在芯片层独立监控,可在毫秒内隔离越界智能体。Anthropic、SpaceX等公司已加入合作采用。

随着AI智能体在各类业务场景中加速落地,其行为边界与运行安全正成为行业关注的焦点。英伟达近日发布了一套开放式AI智能体安全平台,试图从软件与硬件两个层面回应这一需求。

该平台由两部分构成。其一是OpenShell安全软件,作用是为运行在CPU上的AI智能体划定行为边界,并兼容开源与闭源模型以及第三方硬件。其二是NVIDIA Sentry看门狗系统,运行于BlueField-4 DPU之上,能够在芯片层面独立监控智能体的行为。

据英伟达介绍,一旦Sentry检测到智能体出现突破限制的行为,可在毫秒级时间内将其隔离并停止运行。这种将监控职责从主处理器卸载至DPU的设计,使安全机制与智能体本身形成隔离,降低了被绕过或干扰的可能。

目前,Anthropic、SpaceX等公司已与英伟达展开合作并采用该平台。对于正在推进智能体规模化部署的企业而言,这一方案提供了一种从底层硬件入手的管控思路。

英伟达AI智能体安全平台BlueField-4
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词