Anthropic:Newsroom·精选AI 评分85
Anthropic 详解反蒸馏防御新方法,蒸馏窃取的推理 token 减少 90% 至 99%
Strengthening our defenses against distillation attacks
AI 导读
Anthropic 发布博文,介绍近期降低针对 Claude 蒸馏攻击有效性的新方法,早期证据显示蒸馏者获取的数据量减少约 90% 至 99%。方法包括限制推理内容流向、类似 constitutional classifiers 的两阶段分类器(误报率低于 0.1%)以及封禁相关账号和对被拦截请求恢复收费,并称 Zhipu 在开发 GLM-5.3 期间曾尝试蒸馏 Claude。
推荐理由
Anthropic 官方披露反蒸馏防御的具体做法与效果数据,也讲清了代价,开发者可据此评估防护思路。
来源:Anthropic:Newsroom · anthropic.com