Watch at Ease看见世界,读懂生活。

科技 · 新闻解读

Anthropic称新反蒸馏防护让被提取的推理量下降90%至99%

该公司称分层控制让被提取的推理令牌减少至原来的十分之一到百分之一,但保留推理规则、分类器误判与计费带来实际集成权衡。

原创编辑示意图:区分Anthropic内部90%至99%估算与其无法证明的结论。
原创示意图:该降幅是Anthropic的早期平台估算,不是独立的普遍基准。 Watch at Ease

Anthropic称,保留推理控制、提取分类器与账户执法的组合,使疑似模型蒸馏者收集到的Claude推理量大约下降90%至99%。这些数字是公司的早期估算,并非独立审计。

对开发者而言,应把醒目的降幅与操作权衡分开看。部分集成必须原样保留推理块;在范围很窄的类别中,被阻止的请求仍可能计费;Anthropic称良性请求被误判的比例低于0.1%。

90%至99%是公司内部估算

Anthropic完整技术文章称,早期证据显示蒸馏者采集的数据减少90%至99%。指标比较的是新防护前后其自有平台暴露的推理令牌数量。Reuters独立报道了相同估算及10至100倍降幅。两份来源都未描述外部复现,因此这应被理解为公司测量,而不是普遍基准。

三层控制针对不同攻击环节

第一层限制受保护推理可被移动或编辑的位置;第二层使用经过训练与红队测试的两阶段分类器识别提取企图;第三层通过更严格的限制、特定阻止类别的计费与封禁账户,提高重复尝试的成本并缩短其持续时间。Anthropic称,其当前普遍可用的最强模型采用该分类器,并已封禁数万个与疑似蒸馏活动相关的账户。

正常开发者也会遇到权衡

保留推理变更已要求部分开发者更新集成,尤其是会编辑或移动先前推理上下文的工作流。Anthropic称分类器误判率低于0.1%,但承认良性请求仍可能被阻止。自9月24日起,公司在其报告低误判率的特定类别中恢复对被阻止请求计费。使用Claude API的团队应查看当前保留推理文档,而不应把这篇文章当作可直接套用的配置指南。

公司没有声称问题已解决

Anthropic称攻击者会继续调整手段,高度成熟且持续的行动仍可能找到新的绕过方式。该降幅只适用于Anthropic平台上观察到的提取行为,并不代表所有提供商或离线训练流程。更有用的结论是分层设计与已说明的限制,而不是未经授权的蒸馏已经终结。

原创编辑示意图:保留推理、请求分类和重复尝试控制三层防护。
原创示意图:分层防护针对不同环节,也带来集成、误判和计费权衡。 Watch at Ease