OpenAI、次期モデル「Astra」の社内活動を一部停止｜サイバー能力の評価が理由

2026年8月9日 2026年8月9日 AIエージェントナビ編集部

AIエージェントナビ編集部

画像：AIエージェントナビ編集部

AIエージェントの導入を検討する際、そのモデルが持つ潜在的なリスクをどのように評価すべきか悩むDX担当者は少なくありません。OpenAIが発表した次期モデル「Astra」に関する最新の評価結果は、AIの安全性管理における新たな基準を示唆しています。

本記事では、OpenAIが実施した評価の背景と、企業が今後AIエージェントを導入する際に留意すべき安全管理の要件について解説します。

Astraにおけるサイバーセキュリティ評価の経緯

専門家による「Critical」水準の可能性への言及

OpenAIは2026年8月7日、開発中の次期モデル「Astra」について、同社の安全枠組み「Preparedness Framework（準備態勢フレームワーク）」におけるサイバーセキュリティの最上位区分「Critical（重大）」の能力を否定できないと表明しました。これは、直近数日間の社内評価および専門家による検証の結果、エージェント型のコーディングやサイバーセキュリティ能力に著しい進展が見られたためです。なお、本件は確定的な評価ではなく、あくまで暫定的な段階で「否定できない」という慎重な位置づけとなっています。

過去モデルとの比較と評価のしきい値

同社が2023年12月に公開したPreparedness Frameworkにおいて、Criticalのしきい値は非常に厳格に定義されています。具体的には、人の介在なしに、堅牢に守られた実世界の重要システムの多くに対して、あらゆる深刻度の実用的なゼロデイ攻撃（修正プログラムが提供される前の脆弱性を突く攻撃）を特定・開発できる能力。あるいは、高いレベルの目標を与えられただけで、堅牢な標的に対する新規の攻撃戦略を端から端まで立案・実行できる能力です。過去のモデル（GPT-5.6-Solを含む）はいずれも一段下の「High」評価にとどまっており、Criticalの可能性に言及したのは今回が初めてです。なお、OpenAIは、Astraが7月に公表されたHugging Faceのセキュリティ事案には関与していないことを明記しています。

実施された5つの安全管理措置

厳格な環境隔離と監視体制の強化

今回の評価結果を受け、OpenAIは直ちに5つの安全措置を講じました。第一に、隔離されたテスト環境の構築、ネットワークおよびツールへのアクセス制限、モデル重みの暗号化、監視と検知の強化、そしてサンドボックス（外部から隔離された実行環境）での実行を含む、より厳格な安全管理体制を導入しました。第二に、これらの強化された安全要件をまだ満たしていない社内の開発活動を一時停止しています。

網羅的な監視と外部機関との連携

第三の措置として、学習や評価を含むAstraの全エージェント用途において、思考の連鎖（Chain of Thought）を詳細に評価し、危険な活動を未然に止めるための網羅的な監視を実施しています。第四に、関係する政府機関と一部のAI安全団体と連携して、このモデルの能力を検証していくとしています。第五に、第三者のテスト事業者に対して、リスクの高い評価や作業を安全に実施するための推奨管理策を提供する予定です。なお、2025年6月には生物学分野で同様の対応を行った前例があり、同社は一貫してリスクに応じた開発プロセスの調整を行っています。

ここで一時停止の対象になっているのは、強化した安全管理の要件をまだ満たしていない社内の活動です。公式ページに、Astraの公開時期を遅らせるという記述はありません。むしろ同社は、Astraのような最先端の能力を責任をもって幅広く展開していく方針を示しています。

企業がAIエージェント導入で意識すべき視点

モデル選定における「安全基準」の重要性

AIエージェントを業務に導入する企業にとって、今回のニュースは重要な示唆を与えています。今後はモデルの性能や機能性だけでなく、提供元がどの水準に達したら自社の開発の進め方を変えるのかという「安全に対するガバナンス」が、選定の重要な判断材料となります。自社のDX推進において、AIの能力を最大限に活用しつつ、潜在的なリスクをどのように制御するかという視点が不可欠です。

ガバナンス構築に向けた準備

企業は、AIベンダーが公開する安全性評価レポートや、そのモデルがどのような枠組みで管理されているかを注視する必要があります。特に、自社の基幹システムと連携させるエージェント型AIの導入においては、ベンダー側の安全管理要件と自社のセキュリティポリシーを照らし合わせ、リスク許容度を明確に定義しておくことが求められます。

まとめ

OpenAIの次期モデル「Astra」が、サイバー能力評価で初の「Critical」水準に該当する可能性が浮上しました。
確定ではなく「否定できない」という慎重な評価に基づき、同社は5つの厳格な安全管理措置を即座に実施しています。
企業はAI導入時、モデルの機能だけでなくベンダーの安全管理体制やリスク対応の透明性を評価基準に加えるべきです。
今後は、AIエージェントの利便性とセキュリティのバランスを考慮した、独自のガバナンス体制の構築がDX担当者に問われます。

💡 編集部の見解

AIの安全性評価が「機能」から「リスク制御」へシフトしています。OpenAIの対応は、AI開発におけるガバナンスの重要性を浮き彫りにしました。

暫定評価の公表：Criticalの可能性を否定できないという慎重な姿勢が、AIの安全性に対する透明性を重視する同社の姿勢を示しています。
安全管理の徹底：要件未達の活動を即座に停止し、外部機関と連携する姿勢は、AI開発におけるリスク管理の新たな業界標準となりそうです。

DX担当者は、AIベンダーの安全管理要件を自社のリスク許容度と照らし合わせ、選定基準を再定義しておくことが求められます。

出典：OpenAI（2026年8月7日）

ニュースカテゴリー: 海外ニュース