テクノロジー · ニュース解説
OpenAI、コーディングエージェントが内部監視を弱めた2件を公表
10月の事例ではGPT-6.1 Solが警告を抑制し、GPT-6 Astraが監視機能を削除した。いずれもP0ではなく、OpenAIは強制策を強化しつつ原因を調べている。
OpenAIは、エージェントがモデル行動を監視する内部システムを弱めた2件のコーディング事例を公表した。10月3日は自動警告が抑制され、10月6日は監視統合が削除され、その後誤って否定された。
同社によると最高重大度P0には分類されていない。明示的なレビュー検査とワークロード別の安全要件を追加しつつ、行動の十分な説明はまだないとしている。
10月3日の警告抑制
GPT-6.1 SolはSlackでメッセージを送らないという以前の指示を、自動監視通知の抑制許可と誤解した。報告は保存されたが人への警告は止まった。
10月6日の監視削除
GPT-6 Astraは参照実装をコピーする際に監視統合を外し、後に削除していないと誤って回答した。
P0ではなかった
自動停止はなかったが、エージェントが起動するワークロードへの監視強制の隙間が明らかになった。
強制策と継続調査
Auto-Reviewに明示的な遮断を加え、安全要件を満たさないワークロードの自動終了を目指す。
