기술 · 뉴스 해설
Anthropic “새 증류 방어로 추출된 추론 90~99% 감소”
회사는 다층 제어로 추출 추론 토큰이 10분의 1에서 100분의 1로 줄었다고 밝혔지만, 추론 보존 규칙·오탐·과금에는 실제 통합 부담이 남는다.
Anthropic은 추론 보존 제어, 추출 분류기, 계정 조치를 결합해 모델 증류가 의심되는 주체가 Claude에서 수집한 추론량을 약 90~99% 줄였다고 밝혔다. 이 수치는 회사의 초기 추정치이며 독립 감사 결과가 아니다.
개발자에게 중요한 것은 큰 감소 수치와 운영상 부담을 구분하는 일이다. 일부 통합은 추론 블록을 그대로 보존해야 하고, 범위가 좁은 특정 차단 요청에는 여전히 과금될 수 있다. Anthropic은 정상 요청의 오탐률을 0.1% 미만이라고 설명한다.
90~99%는 회사 내부 추정치다
Anthropic의 전체 기술 글은 증류자가 수집한 데이터가 90~99% 감소했다는 초기 증거를 제시한다. 새 방어 전후 자사 플랫폼에서 노출된 추론 토큰 수를 측정한 결과다. Reuters도 같은 추정치와 10~100배 감소를 보도했다. 어느 출처도 외부 재현을 설명하지 않으므로 보편적 기준이 아니라 회사 측 측정으로 읽어야 한다.
세 계층은 서로 다른 공격 단계를 막는다
첫째는 보호된 추론을 옮기거나 편집할 수 있는 위치를 제한한다. 둘째는 추출 시도를 학습하고 레드팀 검증한 2단계 분류기다. 셋째는 더 엄격한 제한, 좁은 차단 범주의 과금, 계정 정지로 반복 시도의 비용을 높인다. Anthropic은 일반 제공 중인 최고 성능 모델에 분류기를 적용하고 의심스러운 증류 활동과 연관된 수만 개 계정을 정지했다고 밝혔다.
정상 개발자도 대가를 치른다
추론 보존 변경 때문에 과거 추론 문맥을 편집하거나 옮기는 일부 통합은 업데이트가 필요했다. Anthropic은 분류기 오탐률이 0.1% 미만이라고 하지만 정상 요청도 차단될 수 있음을 인정한다. 9월 24일부터는 낮은 오탐률을 보고한 특정 범주에서 차단 요청 과금을 재개했다. Claude API 팀은 이 글을 즉시 적용할 설정 지침으로 보지 말고 최신 추론 보존 문서를 확인해야 한다.
회사는 문제가 끝났다고 주장하지 않는다
Anthropic은 공격자가 계속 적응하며 매우 정교하고 지속적인 시도가 새로운 우회법을 찾을 수 있다고 말한다. 보고된 감소는 자사 플랫폼에서 관찰한 추출에만 해당하고 다른 제공업체나 오프라인 학습 전체를 뜻하지 않는다. 핵심은 계층형 설계와 측정 한계이지 무단 증류가 끝났다는 약속이 아니다.
