快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 09-19 · 星期六 · 09-19 01:28 约 1 分钟读完

美军AI生成虚假情报险致误拦中国船只,暴露AI工具校验缺失

摘要

据CNN报道,今年春季美伊战争期间,美军特种作战司令部分析师借助聊天机器人生成的情报报告,错误指称一艘中东中国船只运输核武器部件,美军一度准备武装登船拦截,行动前才发现报告完全不实。事件暴露美军AI工具分散部署、缺乏统一校验标准,AI辅助目标选定增多而人机协同规范缺失。

据CNN披露,今年春季美伊战争期间,美军内部发生了一起因人工智能生成内容失实而险些引发军事误判的事件。一份由特种作战司令部分析师借助聊天机器人撰写的情报报告,错误地声称一艘位于中东的中国船只正在运输核武器部件。

该报告迅速进入美军行动流程,军方一度准备对该船只实施武装登船拦截。然而在行动即将执行前,相关人员发现报告内容完全不属实,拦截行动随即被叫停。

调查显示,涉事分析师使用AI工具将开源情报与机密信号情报进行融合,并生成了格式规范的标准报告,随后在体系内传播。这一过程暴露出美军各部门AI工具部署分散、缺乏统一校验标准的现实问题。

当前,AI辅助目标选定在美军中的应用正逐步增多,但人机协同环节仍缺乏明确规范。此次事件表明,在情报生成与作战决策链条中,AI输出的准确性验证机制尚未有效建立,存在因模型幻觉直接触发军事行动的风险。

美军AI幻觉情报误判人机协同
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词