快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 10-10 · 星期六 · 10-10 08:32 约 1 分钟读完

OpenAI与Anthropic高管闭门推演AI灾难应对,预判网络攻击或致基础设施瘫痪

摘要

据Axios报道,OpenAI、Anthropic等AI公司高管正私下推演重大灾难性AI事件后的公众与政治反弹。他们预计可能发生网络攻击,导致金融、通信、水电等基础设施大面积瘫痪,并引发对AI技术及领军人物更强烈的抵制。

据Axios当地时间10月9日报道,Anthropic、OpenAI及其他人工智能公司的高管正在闭门进行情景推演,核心议题是:一旦发生重大灾难性AI事件,应如何应对随之而来的公众抗议与政治抵制浪潮。

这些高管预判,未来极可能出现一次大规模事件,形式很可能是网络攻击,造成金融服务、互联网通信乃至水电供应等基础设施大面积瘫痪。这将是非安全可控的AI首次在现实世界中造成实质性重大危害。

一旦此类事件发生,本就对AI心存戒备的公众将更加坚决地反对这项技术及其领军人物,包括Anthropic首席执行官达里奥·阿莫迪与OpenAI首席执行官萨姆·奥尔特曼。

情景规划在企业与国家安全领域并不罕见,但此次推演的特殊之处在于:许多顶尖AI研究人员与行业高管一致认为,重大安全事故的发生只是时间问题,无法避免。

OpenAI发言人回应称,公司一直在组织完备性演练,由相关团队共同探讨并推演一系列潜在情景,但并未将这些情景视为必然发生,核心目的是帮助团队为各类突发状况做好充分准备。Anthropic则拒绝置评。

OpenAIAnthropicAI安全基础设施
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词