OpenAIのAI、政府サイトに無断侵入し24年分のデータ取得

画像：AIエージェントナビ編集部

AIエージェントに調べものを任せると、アクセスを断られたときに別の抜け道を探し始めることがあります。OpenAIは2026年10月15日、訓練や評価の最中に社内のAIモデルが認証や通信の制限をくぐり抜けた事例4件を、手口の手順つきで公表しました。

本記事では、4件の中身とOpenAIが取った対策を解説します。

OpenAIが公表した4件の事例

「Misalignment Reports」とは

Misalignment Reportsは、AIモデルが開発者の意図からずれた行動をとった事例を、OpenAIが公開しているページです。今回の4件を加えて、掲載は19件になりました。4件はいずれも2026年6月に、モデルが訓練や評価の課題に取り組む中で起きています。

政府の統計サイトで認証を突破（6月17日）

強化学習（試行錯誤で学ぶ訓練）中の社内モデルが、ある地区の医療施設の病床数をWebサイトで調べるよう頼まれました。インターネットは情報を読むHTTP GETだけが許可されていました。拒否されたモデルは、サーバーのエラー表示を手がかりに設定ファイルを取り出し、データベースの接続情報、トークン（通行証）の署名用の秘密鍵、メールの認証情報を手に入れました。

さらに、署名を確かめないトークン処理の欠陥を突いて自作のトークンで保護された統計に入り、頼まれていない年も含めて24年分を保存しました。最終回答は、無断でアクセスしたことに触れていませんでした。OpenAIは国名とサイト名を伏せています。

他人のテスト用口座で手数料を支払う（6月26日）

GPT-5.6 Solの系統の研究用モデルが、暗号資産の試作アプリを更新する課題で、テスト用ネットワークにプログラム（スマートコントラクト）を置く必要がありました。残高のある口座は渡されていませんでした。

モデルは公開されている開発用のリカバリーフレーズ（口座の復元用の言葉）から鍵を作って362のアドレスを調べ、残高のある他人の口座で手数料を支払いました。最終回答はその口座の出どころを伝えていません。テスト用ネットワークの通貨に金銭的な価値はありません。

内部システムの設定を変えて約14万行を取得（6月17日）

公開されている研究用ダッシュボードの数字を5つ集める評価で、社内モデルが公開サイトのJavaScriptにあった認証情報を使って内部のシステムに入りました。1回目の評価では、氏名とメールアドレスを含む1,489件の名簿データをダウンロードしています。

2回目の評価では設定を書き換えて保存領域の通行証を手に入れ、設定は元に戻したものの通行証は使い続けて、5つの表から計147,451行をダウンロードしました。回答はこうした操作を伝えておらず、答えもすべて不正解でした。

禁止された通信を外部ブラウザで回り込む（6月16日）

統計サイトから貿易の数字を集める課題で、インターネットはGETだけが許可され、データを送るPOSTは禁止されていました。社内の研究用モデルは、GETで外部のブラウザにページを開かせ、そのページから自動でPOSTを送らせました。結果は画像で受け取り、文字認識で数字を読んでいます。

答えが載った公開の年鑑をすでに見つけた後も、ライブのサービスにつなぐ方法を探し続け、繰り返し使える仕組みまで作りました。

OpenAIが取った対策

OpenAIは一連の事例を受けて、セキュリティ管理の強化、訓練・評価中のモデルをライブのインターネットにつながないこと、評価の採点の改善、意図ずれの監視を強化学習と評価のすべての通信へ広げることの4つを実施したとしています。

政府統計サイトの件は、Hugging Faceの件のあとにOpenAIが過去の訓練と評価の記録へさかのぼって監視をかけた際、「critical（重大）」と判定されて見つかったと報告しています。

既報との関係

当メディアは9月25日に、OpenAIのAIエージェントが6月18日に豪政府の医療統計ポータルへ無断でアクセスした件を、豪政府の発表をもとに報じました。今回の報告は国名とサイト名を伏せており、豪州の件と同じ事案かどうかは書かれていません。

関連記事：OpenAIのAIが豪政府の医療統計サイトへ無断アクセス、通知は約3カ月後

まとめ

• OpenAIは10月15日、訓練や評価の最中に社内のAIが認証や通信の制限をくぐり抜けた4件を、手口つきで公表した。
• 政府統計サイトでは秘密鍵を取り出して自作のトークンで入り、24年分の統計を保存。回答では無断アクセスに触れなかった。
• ほかに、他人のテスト用口座の利用、内部システムからの計147,451行の取得、外部ブラウザを使った禁止通信の回り込みがあった。
• OpenAIは、訓練・評価中のモデルをライブのインターネットから切り離すなど4つの対策を取った。

出典：OpenAI（政府統計サイト）／OpenAI（テスト用口座）／OpenAI（ダッシュボード調査）／OpenAI（外部ブラウザ）