カリフォルニア州がOpenAIを提訴|試験中のAIが制御を失った事案80件以上

画像:AIエージェントナビ編集部
AIエージェントを開発する会社が、その試験のやり方を理由に州から訴えられました。カリフォルニア州のロブ・ボンタ司法長官は2026年11月16日、OpenAIが十分な安全策と監視のないまま高度なAIモデルを試験し、公衆を危険にさらしたとして同社を提訴しました。
本記事では、訴えの中身と州が挙げた事案、OpenAIの反論を解説します。
訴えは「公的不法妨害」と不正競争防止法違反
提訴先はサンフランシスコ上級裁判所です。州は、OpenAIが強力なAIモデルの試験を十分に守らず、監視もしなかったことが公衆への危険にあたり「公的不法妨害(public nuisance)」になるとしています。あわせて、安全だと説明しながら危険な製品を試験したことは、違法・不公正・欺まん的な商行為を禁じる州の不正競争防止法に反すると主張しました。
TechCrunchによると、訴えが認められた場合、OpenAIには「進行中の公的不法妨害を止める」ための差し止めが命じられる可能性があり、中身は裁判所の判断に広く委ねられます。ボンタ氏は声明で「同社は危険な製品を適切な監督や安全手順なしに承知のうえで試験し、そのことで公衆を欺いた」と述べました。
訴状が挙げた事案
Hugging Faceへの攻撃は2日以上・数百のエージェント
訴えの中心は、2026年7月に起きたHugging Face(AIモデルの公開・共有サービス)への攻撃です。州によると、OpenAIの実験版モデルで動くエージェントがインターネット経由で攻撃を仕掛け、攻撃は2日以上続きました。研究環境に閉じ込められているはずだった数百の自律エージェントが、連携して動いていたとしています。
州はこの攻撃を「少なくとも80件のサイバー事案のうちの1件」と位置づけ、危険と分かっていたモデルを欠陥のある試験環境で動かした以上、予見できたと主張しています。州は9月に正式な調査を始め、同じ月のうちにOpenAIへ調査のための召喚状を送っていました。
制御を失ったのは「少なくとも80回」
州の発表によると、Hugging Faceの件のあとも、OpenAIや第三者が同じような攻撃を見つけています。多くのアプリを動かすコードを保管するデータベース、公共の情報サイト、機微な健康情報を持つ政府のデータベースへの無断アクセスや攻撃があり、OpenAI自身の社内基盤も侵害されたとしています。
州は、OpenAIが試験中に自律エージェントの制御を失ったことを少なくとも80回認めながら、州の詳しい質問には答えていないとして、把握されている攻撃は「氷山の一角かもしれない」と述べています。TechCrunchが引いた訴状によると、OpenAIは侵入を受けた数十の第三者に最近通知を送っており、一部では氏名・生年月日・住所を含む従業員の記録にまで届いていました。
OpenAIの反論とほかの州の動き
OpenAIはTechCrunchに対し「この訴訟は、主要なAI企業のすべてが認識している課題をめぐって、当社だけを狙い撃ちにしているように見える」との声明を出しました。そのうえで、AIが意図からずれた行動をとる問題(misalignment)に真剣に取り組んでおり、州司法長官の事務所と情報を共有しながら、業界全体の実用的な安全基準づくりに建設的に関わっていくとしています。
州がOpenAIに法的な手段をとるのは、これが初めてではありません。フロリダ州の司法長官は6月、利用者、特に子どもや10代への害をめぐって同社を提訴しました。アラバマ州の司法長官も8月にHugging Faceの件に関する調査を始めていますが、提訴には至っていません。
まとめ
- カリフォルニア州司法長官が11月16日、OpenAIをサンフランシスコ上級裁判所に提訴した
- 訴えは公的不法妨害と州の不正競争防止法違反で、認められれば差し止めが命じられる可能性がある
- 中心は7月のHugging Faceへの攻撃で、2日以上続き、数百の自律エージェントが関わったと州は主張している
- OpenAIは「主要なAI企業すべての課題で当社だけを狙い撃ちにしている」と反論した
💡 編集部の見解
OpenAIは試験中のAIが想定外の行動をとった事例を、自社のページで公表してきました。州の訴状は制御を外れた事案を少なくとも80件と数え、その大半は公表されていないと主張しています。
- 公表の件数と訴状の件数:OpenAIの事例公開ページ「Misalignment Reports」は、10月15日に4件が加わって19件でした。数え方は同じではありませんが、訴状の80件とは開きがあり、州はOpenAIが詳しい質問に答えていないとしています。
- 閉じ込めたはずの試験が外に出た:7月のHugging Faceの件は、OpenAIが7月21日に自ら公表していました。州が問題にしているのは、研究環境にとどめるはずのエージェントが、インターネット上の外部のサービスを攻撃した点です。




