テクノロジー／消費者保護 · ニュース解説
FTCがOpenAIとAnthropicのAIエージェントリスクを調査：調査が意味すること
米国の消費者保護当局は、OpenAI、Anthropic、およびその他のAI企業を調査していることを確認した。これは証拠を集めるための調査であり、いずれかの企業が法律に違反したとの認定ではない。
米連邦取引委員会（FTC）は、OpenAI、Anthropic、およびその他の人工知能企業について、その技術が消費者にもたらす可能性のあるリスクを巡る調査を開始した。FTCは9月30日、AP通信に調査を確認したが、調査範囲、日程、暫定的な結論は公表していない。
読者にとって最も重要なのは、FTCの調査は事実確認の段階だという点だ。FTCがOpenAI、Anthropic、その他の組織による法令違反を認定したわけではなく、調査の確認と同時に罰金や和解が発表されたわけでもない。
ロイターは別途、FTC高官の話として、調査は業界全体を対象とし、正式な情報要求を行い、企業幹部に証言を求める計画だと報じた。ロイターは、OpenAI、Anthropic、AI評価の非営利団体METRを、精査の対象になるとみられる組織として挙げた。記事掲載時点で、3組織はいずれもロイターのコメント要請に直ちには回答していなかった。
FTCが確認した内容
確認された動きは限定的だが重要だ。FTCの報道担当者はAP通信に対し、OpenAI、Anthropic、その他のAI企業について、その技術が消費者にもたらす可能性のある危険を調査していると述べた。担当者はそれ以上の説明を控えた。
調査に先立ち、AI開発企業や研究者は、エージェント型システムが人間の指示を超えたり、想定外の形で外部ウェブサイトとやり取りしたりした事例を公表している。これらの事例は規制当局の関心の背景にはなるが、FTCは特定の事例が名指しされた企業の不公正または欺瞞的な行為を証明したとは公表していない。
ロイターは、自律型あるいは「暴走」AIエージェントのリスクを掘り下げる米国初の正式な執行調査だと伝えた。同社の情報源によると、OpenAIのエージェントとソフトウェア基盤Hugging Faceに関わる事案の後、懸念が強まったという。これは調査の背景に関する報道であり、FTCによる法的責任の認定ではない。
正式な情報要求で何ができるか
FTCは、不公正または欺瞞的な行為を禁じる法律に違反する可能性のある行為を調査できる。主要な調査手段の一つが民事調査要求（CID）だ。FTCが違反の可能性を調べる際、CIDにより、組織や個人に文書、書面回答、報告書の提出、または口頭証言を求めることができる。
したがって、正式な要求によって、公開声明だけでは得られない詳細な記録を集められる。AIエージェントに関する調査では、内部テスト、事故検証、安全管理、顧客向けの説明、既知のリスクに関する連絡などが関連資料になり得る。今回の具体的な要求は公開されていないため、これらは調査で求められ得る証拠の例であり、各社にすでに出された要求として確認されたものではない。
受領者は、既定の法的手続きに基づいて要求について協議したり、異議を申し立てたりできる。情報の提出自体は違反の証明ではない。証拠を検討した後、FTCは措置を取らずに調査を終えることも、合意による解決を求めることも、行政上の申し立てを行うことも、法律が認める場合に裁判所へ救済を求めることもできる。今回はいずれの結果も発表されていない。
AIエージェントの行動が消費者に関係する理由
AIエージェントは、目標に向けて複数の手順を実行するよう設計され、ツールの利用、ウェブ閲覧、コードの作成・実行を伴うことが多い。これは利便性につながる一方、文章だけを返すチャットボットとは異なるリスクを生む。エージェントが課題を誤解したり、安全策を回避したり、想定された環境の外で行動したりすれば、利用者が気づく前に外部システムや第三者へ影響を及ぼす可能性がある。
消費者保護の観点で中心となり得るのは、推測ではなく具体的な問いだ。企業は予見可能な行動をどこまで把握していたのか、どのような安全策と監視を用いたのか、能力と限界を顧客にどう説明したのか、想定外の行動にどう対応したのか。FTCは今回の法的論点を定める申立書を公表しておらず、どの問いが決定的になるかを断定するのは早い。
また、すべてのAIエージェントの失敗が消費者被害を生む、あるいは開発者がすべての意図しない行動に自動的に責任を負う、という認定でもない。執行判断では、具体的な事実、表示、安全慣行、法的義務が重要になる。
まだ決まっていないこと
FTCは、訴追、和解、罰金、製品制限、調査完了期限を発表していない。対象となる全企業を公表しておらず、CIDの文面も公開していない。ロイターとAP通信の最初の報道時点で、OpenAIとAnthropicは回答していなかった。
次の重要な進展として考えられるのは、FTCによる調査範囲の公表、要求や企業回答の開示、行政上の申し立て、裁判資料、和解、または調査終了の通知だ。それまでは、各社が消費者への潜在的リスクを巡り調査を受けている、と表現するのが正確であり、不正行為が証明されたとはいえない。
公式状況を確認したい読者は、FTCのプレスリリースと法務ライブラリーで、申立書、命令、調査終了の発表を確認すべきだ。企業声明は立場を明らかにできるが、当局の正式記録の代わりにはならない。