Watch at Ease看見世界,讀懂生活。

科技 · 新聞解讀

Anthropic稱新反蒸餾防護讓被擷取的推理量下降90%至99%

該公司稱分層控制讓被擷取的推理權杖減至原本的十分之一到百分之一,但保留推理規則、分類器誤判與計費帶來實際整合取捨。

原創編輯示意圖:區分Anthropic內部90%至99%估算與其無法證明的結論。
原創示意圖:該降幅是Anthropic的早期平台估算,不是獨立的普遍基準。 Watch at Ease

Anthropic稱,保留推理控制、擷取分類器與帳戶執法的組合,使疑似模型蒸餾者蒐集到的Claude推理量約下降90%至99%。這些數字是公司的早期估算,並非獨立稽核。

對開發者而言,應將醒目的降幅與操作取捨分開看。部分整合必須原樣保留推理區塊;在範圍很窄的類別中,被阻止的請求仍可能計費;Anthropic稱良性請求被誤判的比例低於0.1%。

90%至99%是公司內部估算

Anthropic完整技術文章稱,早期證據顯示蒸餾者蒐集的資料減少90%至99%。指標比較的是新防護前後其自有平台暴露的推理權杖數量。Reuters獨立報導相同估算與10至100倍降幅。兩份來源都沒有描述外部重現,因此應將結果視為公司測量,而不是普遍基準。

三層控制針對不同攻擊環節

第一層限制受保護推理可被移動或編輯的位置;第二層使用經過訓練與紅隊測試的兩階段分類器辨識擷取企圖;第三層藉由更嚴格的限制、特定阻止類別的計費與封禁帳戶,提高重複嘗試的成本並縮短持續時間。Anthropic稱目前普遍可用的最強模型採用該分類器,並已封禁數萬個與疑似蒸餾活動相關的帳戶。

正常開發者也會遇到取捨

保留推理變更已要求部分開發者更新整合,尤其是會編輯或移動先前推理情境的工作流程。Anthropic稱分類器誤判率低於0.1%,但承認良性請求仍可能被阻止。自9月24日起,公司在其報告低誤判率的特定類別中恢復對被阻止請求計費。使用Claude API的團隊應查看目前的保留推理文件,而不應將文章當作可直接套用的設定指南。

公司沒有聲稱問題已解決

Anthropic稱攻擊者會繼續調整手法,高度成熟且持續的行動仍可能找到新的繞過方式。該降幅只適用於Anthropic平台觀察到的擷取行為,並不代表所有供應商或離線訓練流程。更有用的結論是分層設計與已說明的限制,而不是未經授權的蒸餾已經終結。

原創編輯示意圖:保留推理、請求分類與重複嘗試控制三層防護。
原創示意圖:分層防護針對不同環節,也帶來整合、誤判與計費取捨。 Watch at Ease