テクノロジー · ニュース解説
AnthropicがMETRに「社員並み」のアクセスを付与 外部評価にはなお明確な限界
METRの評価者6人が会社支給機器、執務スペース、Anthropicのリスク部門とおおむね同等の内部システムへのアクセスを得た。一方、顧客データ、法的秘匿情報、モデル構造は対象外で、公開時には限定的な事前定義済みの編集があり得る。
Anthropicは、非営利評価団体METRの職員6人に会社支給機器、執務スペース、自社のリスク評価チームとおおむね同等の内部ツール・システムへのアクセスを与えたと発表した。外部評価者向けに設ける3段階のうち最も深いアクセスだ。
ただし「社員並み」は無制限ではない。顧客データ、弁護士依頼者間の秘匿情報、モデル構造は除外される。METRはAnthropicの拒否権なしに分析を公開できるが、事前定義された狭い範囲の編集を求められる場合があり、その妥当性を公開の場で論評できる。
「社員並み」のアクセスに含まれるもの
6人は内部ツールとシステムを使え、従業員はアラインメントリスク担当の同僚に近い形で情報を共有するよう促される。Reutersも人数、機器、執務場所、広いアクセスを確認した。
対象は契約下の小規模チームだけで、METRの他の職員は分離される。団体全体がアクセスを得るわけではない。
評価チームが見られないもの
顧客データ、法的秘匿情報、モデル構造は明示的に除外される。構造情報は重要性が高く、社内承認を得た場合に限って共有を検討するとしている。
アクセス範囲は独立検証できる主張を左右する。「社員並み」は定義された権限階層であり、全システムの完全公開ではない。
公開は独立でも編集は残る
Anthropicは公開を拒否できないが、事前定義されたカテゴリーの情報削除を求められる。METRは隠された内容を明かさず、編集の妥当性を公に評価できる。
METRは報告書で範囲、アクセス制限、編集、利益相反、その他の制約と結論への影響を開示すべきだとしている。
まだ安全性の判定ではない理由
今回の発表は監督手続きを設けたもので、ClaudeやAnthropicのリスク水準について新しい結論を示したわけではない。
METRは任意の監督が企業の協力、アクセス提供、公開許可に依存し、独立検証できない情報に頼る場合もあると警告する。現時点で言えるのはアクセスと公開権が拡大したことまでだ。
