기술 · 뉴스 해설
Anthropic, METR에 ‘직원 수준’ 접근권 부여…외부 평가에는 여전히 명확한 한계
METR 평가자 6명이 회사 장비와 사무 공간, Anthropic 위험 팀과 대체로 비슷한 내부 시스템 접근권을 받았다. 고객 데이터, 법률상 특권 자료와 모델 구조는 제외되며, 공개 시 사전에 정한 좁은 범위의 삭제가 가능하다.
Anthropic은 비영리 평가 기관 METR 직원 6명에게 회사 장비와 사무 공간, 자사 위험 평가 팀과 대체로 비슷한 내부 도구·시스템 접근권을 제공했다고 밝혔다. 외부 평가자를 위해 개발 중인 3단계 체계 중 가장 깊은 단계다.
하지만 ‘직원 수준’이 무제한을 뜻하지는 않는다. 고객 데이터, 변호사 의뢰인 특권 정보와 모델 구조는 제외된다. METR은 Anthropic의 거부권 없이 위험·사건·관행 분석을 공개할 수 있지만 사전 정의된 좁은 범위의 삭제 요구를 받을 수 있고, 그 정당성을 공개적으로 평가할 수 있다.
‘직원 수준’ 접근에 실제 포함되는 것
6명은 내부 도구와 시스템을 사용할 수 있고 직원은 정렬 위험 동료에게 하듯 정보를 공유하도록 권장된다. Reuters도 인원, 장비, 공간과 광범위한 접근을 확인했다.
대상은 계약 아래 운영되는 소규모 팀이며 다른 METR 직원은 이 업무에서 분리된다. 조직 전체 접근은 아니다.
평가 팀이 여전히 볼 수 없는 것
고객 데이터, 법률상 특권 자료와 모델 구조는 명시적으로 제외된다. 구조 정보는 관련성이 매우 높고 내부 승인을 받은 경우에만 공유를 검토한다.
이 경계는 독립적으로 검증할 수 있는 주장 범위를 결정한다. ‘직원 수준’은 정의된 권한 단계이지 모든 시스템을 완전히 공개한다는 뜻이 아니다.
공개는 독립적이지만 삭제는 남는다
Anthropic은 공개를 거부할 수 없지만 사전 정의된 범주의 정보 삭제를 요구할 수 있다. METR은 숨겨진 내용을 밝히지 않고 삭제가 정당했는지 공개적으로 평가할 수 있다.
METR은 보고서가 범위, 접근 제한, 삭제, 이해 충돌, 기타 제약과 결론에 미친 영향을 밝혀야 한다고 설명한다.
아직 안전 판정이 아닌 이유
이번 발표는 감독 절차를 만든 것이지 Claude나 Anthropic의 위험 수준에 대한 새 결론을 발표한 것은 아니다.
METR도 자발적 감독은 기업의 참여, 접근 제공과 공개 허용에 의존하며 독립 검증이 어려운 정보에 기대는 경우가 있다고 경고한다. 현재 확인된 것은 접근과 공개 권한의 확대이지 위험 해결이 아니다.
