Microsoft AIが「MAIモデル」の行動規範草案を公開｜意見募集を開始

画像：AIエージェントナビ編集部

AIエージェントを業務に組み込むとき、AIが「やってはいけないこと」を誰がどう決めているのかは、利用する企業から見えにくい部分です。Microsoft AIは2026年9月14日（米国時間）、自社で開発するMAIモデルの振る舞いと価値観を示した「Humanist AI Code of Conduct（行動規範）」の草案を公開し、6週間の意見募集を始めました。

本記事では、草案が定める主な禁止事項と今後の進め方を解説します。

草案が定める「絶対的な制約」

事業者や利用者の設定では外せない禁止事項

草案は、どんな利用場面でも適用する安全上の制約を「Absolute Constraints（絶対的な制約）」として定めています。MAIモデルを自社サービスに組み込む事業者（草案の用語でOperator）や利用者（User）は、これらを設定や指示で上書きできないとしています。

主な項目は、CBRNE（化学・生物・放射性物質・核・爆発物）兵器の開発や使用への関与、サイバー攻撃の実行能力の提供、人間の監督を欺いたり回避したりすること、偽情報などによる大規模な操作、悪意あるディープフェイクや同意のない性的・暴力的な画像の生成、児童の安全を損なう内容です。なお、許可を得た合法的な防御目的（脆弱性の発見やマルウェア解析など）への協力は認めています。

人間による中断や停止に抵抗しない

草案は、MAIモデルが人間による中断・修正・停止に抵抗しないことも定めています。発表ブログでは、モデルが自分で作業範囲を広げたり、人間が与えていない目標を持ったり、監査する人から推論の過程を隠したりしないことも挙げています。

草案の段階と今後の進め方

現時点ではモデルの学習に使っていない

公開されたのは作成途中の草案で、Microsoft AIは「現時点ではモデルの学習に使っていない」と明記しています。意見募集は公開日から6週間で、公式ページのフォームから、特定の一文への指摘でも全体への意見でも送れます。同社は「すべての人から意見を聞きたい」としています。

年末ごろに改訂版を公開する予定

意見募集の終了後、同社は寄せられた意見の要約と変更点を公開し、年末ごろに改訂版を出す予定です。改訂版は2027年以降のモデル開発の指針として使うとしています。なお、寄せられた意見をどこまで取り入れるかは約束できないとも書いています。

まとめ

• Microsoft AIが、自社開発のMAIモデル向け行動規範「Humanist AI Code of Conduct」の草案を公開しました。
• 兵器、サイバー攻撃、人間の監督の回避、大規模な操作、悪意あるディープフェイク、児童の安全を損なう内容を「絶対的な制約」とし、事業者や利用者の設定では外せないとしています。
• 人間による中断・修正・停止に抵抗しないことを定めています。
• 現時点では学習に使っておらず、6週間の意見募集を経て年末ごろに改訂版を公開し、2027年以降の開発に使う予定です。

出典：Microsoft AI「Humanist AI Code of Conduct」／Microsoft AI（発表ブログ）