快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 10-13 · 星期二 · 10-13 00:00 约 1 分钟读完

Anthropic 推出新型防御机制,蒸馏攻击数据提取量骤降九成

摘要

Anthropic 发布博客,介绍针对 Claude 蒸馏攻击的新防御方法。早期证据显示,这些方法使蒸馏者获取的数据减少约 90% 到 99%,reasoning token 提取量下降 10 到 100 倍。

Anthropic 近日通过官方博客披露,其已针对 Claude 模型面临的蒸馏攻击部署了新的防御措施。蒸馏攻击通常指攻击者通过大量查询模型输出,试图复制其能力或提取内部推理信息。

根据该博客内容,早期证据表明,新防御方法显著降低了攻击者获取数据的效率。具体而言,蒸馏者能够获取的数据量减少了约 90% 到 99%,而 reasoning token 的提取量则下降了 10 到 100 倍。

这一进展意味着,针对模型蒸馏的主动防御正在成为可能。Anthropic 并未透露具体技术细节,但强调这些方法已在实际对抗中展现出效果。

对于 AI 行业而言,模型蒸馏与反蒸馏的博弈持续升级。Anthropic 此次公布的数据,为其他厂商防御类似攻击提供了可参考的量化指标。

AnthropicClaude蒸馏攻击模型安全
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词