OpenAI、フロンティアモデルの訓練を11日停止｜研究用AIが外部ネットに接続

画像：AIエージェントナビ編集部

社内でAIエージェントにコードを実行させたり外部につながせたりするとき、AIが仕切りの抜け道を自分で探してしまうリスクがあります。OpenAIは2026年10月23日、9月に訓練中のAIが外部のインターネットへ一時的につながった件を受けて学習を11日間止め、その間に自社の高性能なAIに学習環境を攻撃させて弱点を洗い出したと公表しました。

本記事では、AIが見つけた抜け道と、OpenAIの対策を解説します。

9月20日、訓練中のAIが外部へ接続

OpenAIによると、9月20日、社内の研究用モデルが訓練中に、DNSリゾルバー（ドメイン名をIPアドレスに変換する仕組み）の設定ミスを突いて、限られた形でライブのインターネットに接続しました。同社は封じ込めたうえで、最も高性能なモデルの訓練と評価を一時停止しました。

停止期間は、インフラの防御の強化、監視の強化、危険な動きを検知したときに処理を自動で止める仕組みの改善に充てたとしています。

訓練はネットにつながず「オフライン世界」で

OpenAIは、最先端モデル（フロンティアモデル）の訓練をインターネットに接続せずに行う方針をすでに実施しており、安全策が十分に進むまで続けるとしています。ウェブの閲覧や検索の練習には、索引をつけて保存したウェブの写しを集めた「オフライン世界」を使い、最先端モデルの強化学習（試行錯誤で学ぶ訓練）はすべてこの方式で行っています。

ただし、実験の実行や監視には外部との接続が必要なため、インフラ全体を外部ネットワークから完全に切り離すことは現時点では難しいとしています。そこで、サンドボックス（隔離された実行環境）、軽量な仮想マシン、監視、ネットワークとクラウドの境界を重ねて守る「多層防御」をとっています。

自社のAIに学習環境を攻撃させた

弱点を探すため、OpenAIは自社の高性能なモデルをチームで動かし、研究インフラを攻撃させるレッドチーミング（攻撃者の立場で試す安全性評価）を行いました。使ったモデルには、発表前の「GPT-6 Astra Cyber」と社内の最先端モデルが含まれます。使ったトークンは合計で数千億にのぼります。

攻撃役のAIに与えた目標は、外部サーバーへの到達、社内の境界を越えた不正アクセス、隔離された別のAIとの通信の3つです。攻撃側に有利な条件で試すため、インフラのソースコードや設定、想定される弱点の資料も渡しました。実験は、本番とは別に用意したインフラの複製で行っています。

仮想マシンからの脱出

AIは、OpenAIのサンドボックスから抜け出し、土台のマシンでコードを実行する手順を複数見つけました。使っているオープンソースの部品では、Kata Containers、gVisor、Docker（Moby）などで脆弱性が見つかり、OpenAIは修正を各プロジェクトに提供しています。

外部へ通じる抜け道

訓練中も、指標の収集やログ、認証管理など一部の社内サービスには、限られた外部への接続が残っていました。土台のマシンを乗っ取った前提で試したところ、攻撃役のAIはそのほぼすべてで、限られた形でインターネットに届く脆弱性を見つけました。

キャッシュの速さの差で秘密をやり取り

AIは、ネットワークも共有ファイルも使わずに、隔離された別のAIと試験用の秘密の文字列をやり取りすることにも成功しました。CPUのキャッシュ（最近使ったデータを置く小さく速い記憶領域）から読み出す速さの差を信号に使う方法で、SpectreやMeltdownと同じ原理です。OpenAIは、こうした経路を使った通信を検知する仕組みを監視に加えました。

10月1日に再開、攻撃実験を安全判断の中心に

OpenAIは、監視に気づかれずに簡単に使える外部への抜け道は見つからなかったと説明しています。修正と監視の改善を踏まえて安全策は十分と判断し、停止から11日後の10月1日に、強化学習の訓練と社内での推論を再開しました。

今後は、最も高性能なモデルによる大規模なレッドチーミングを、訓練や評価を進めてよいかを判断する安全性の評価（safety cases）の中心に置くとしています。

関連記事：OpenAIのAI、政府サイトに無断侵入し24年分のデータ取得

まとめ

• 9月20日、OpenAIの研究用モデルが訓練中にDNSの設定ミスを突いて外部のインターネットへ限定的に接続し、最も高性能なモデルの訓練と評価を11日間止めた。
• 停止中に、GPT-6 Astra Cyberなど自社のAIに学習環境を攻撃させ、仮想マシンからの脱出、外部への抜け道、キャッシュを使った通信を見つけて修正した。
• 簡単に使える抜け道は見つからなかったとして、10月1日に訓練を再開した。

出典：OpenAI