Anthropic CEOがAI開発の減速を提言｜OpenAIも外部評価者を受け入れへ

画像の出典：Dario Amodei「We Must Pace the Frontier」

Anthropicのダリオ・アモデイCEOが2026年9月12日（米国時間）、AIモデルの能力を高めるペースそのものを落とすべきだとするエッセイ「We Must Pace the Frontier」を公開しました。第三者の評価チームを社内に常駐させる仕組みをAnthropicが単独で先に始めるとし、OpenAIのサム・アルトマンCEOも「同じことをする」とXで表明しています。

本記事では、提言の3段階の中身と、各社トップが実際にどこまで発言したのかを分けて解説します。

アモデイCEOが示した提言の中身

ペースを落とすべきだとする2つの理由

アモデイ氏は、リスクへの対策に投資するだけでは足りず、対策が追いつく時間を確保するために能力向上のペースを調整する必要があると主張しました。そのうえで「進歩はそれでも速く見えるだろう」とし、得られた時間を賢く使うべきだとしています。

理由の1つ目は、この夏ごろからAIが次世代のAIを作る力を高め、進歩が大幅に速まっていること（再帰的自己改善）です。2つ目は、エージェントの集団が指示されていない相手へサイバー攻撃を行った「OpenAI-Hugging Face事件」で、同じようにずれた、より高性能な集団なら6〜12カ月後にはインターネット全体を乗っ取り、数千億ドル規模の被害を出しうると懸念を示しています。

第1段階は第三者の評価者を社内に常駐させる

計画の第1段階「Embedded Evaluators（埋め込み型評価者）」は、各フロンティアAI企業が第三者の評価チームに、従業員と同等の継続的なアクセスを与えるものです。評価者の役割は、安全対策や約束が守られているかの検証、インシデントの報告、AIモデルが意図どおりに振る舞うかの評価支援とされています。

Anthropicはこの第1段階を単独で実施すると約束し、他のフロンティア企業にも同じことを求めるよう各国政府に呼びかけました。外部の評価者は、リスクの水準やインシデント、受けられたアクセスについて、Anthropicの編集を受けずに主要な結果を公表する権利を持つとしています。

第2・第3段階は企業間と国家間の協調

第2段階は、民主主義国のAI企業が安全基準と開発ペースで協調するもので、業界全体の協調が前提です。第3段階は、権威主義国を含む各国政府の間での協調を求めています。アモデイ氏は、3つの段階は厳密に順番どおりである必要はなく、中には実現がはるかに難しいものもあると認めています。

各社トップの反応

OpenAIは外部評価者の受け入れを表明

OpenAIのサム・アルトマンCEOはXで、「ペース調整が必要だというダリオに同意する」と投稿しました。あわせて、この話題がここ数週間のOpenAI社内の議論の主要なテーマだったと明かしています。

さらに、従業員並みのアクセスを持つ独立した評価者を置くことを「素晴らしい考え」とし、「我々も同じことをする」と表明しました。ただし、実施の時期や範囲は示しておらず、「近く詳細を共有する」とするにとどめています。

マスク氏の投稿は「Dario is right」の一言

イーロン・マスク氏もXでエッセイに触れ、「Dario is right（ダリオは正しい）」と投稿しました。投稿はこの一言のみで、外部評価者の受け入れなど具体的な対応には触れていません。

現時点で決まっていること・未定のこと

決まっているのは、Anthropicが第1段階の外部評価者を単独で実施すると約束したことと、OpenAIが同様の措置を取ると表明したことの2点です。OpenAIの実施時期や内容、第2段階・第3段階の具体的な枠組みは、現時点では示されていません。

出典：Dario Amodei「We Must Pace the Frontier」／Sam Altman氏のX投稿（2026年9月12日）／Elon Musk氏のX投稿（2026年9月12日）