快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 09-25 · 星期五 · 09-25 10:12 约 1 分钟读完

黄仁勋谈AI安全底线:前沿实验室若失控必须关闭

摘要

英伟达CEO黄仁勋接受《纽约时报》采访时表示,若OpenAI、Anthropic、Meta、Google等前沿实验室无法控制其AI实验,就必须关闭。他警告失控智能体将引发民事与刑事责任,并称当前对实验室的泛焦虑偏离了实验可控性这一核心问题。

英伟达首席执行官黄仁勋近日在接受《纽约时报》采访时,就前沿AI实验室的安全问题作出明确表态。他提出一条底线:如果这些实验室无法有效控制自身的AI实验,那么它们就必须停止运营。

这一判断直指当前AI领域最受关注的几家机构——OpenAI、Anthropic、Meta以及Google。黄仁勋所针对的,是前沿模型遭遇“越狱”攻击后可能出现的实体行为风险。在他看来,一旦实验过程催生出失控智能体(rogue agents),相关实验室将面临民事与刑事责任,必须为后果负责。

黄仁勋同时提醒,现阶段围绕前沿AI实验室的种种担忧,有些属于“干扰”,偏离了真正的问题核心。他认为不应陷入泛化的焦虑,而应把注意力聚焦在实验是否可控这一具体命题上。

此番表态来自全球最重要AI芯片供应商的掌舵者,其立场或将影响行业对前沿模型安全边界的讨论方向。在算力供给与模型研发深度绑定的背景下,黄仁勋将“可控性”而非笼统的安全恐慌,摆在了议题的中心位置。

黄仁勋AI安全英伟达前沿实验室
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词