Hugging FaceがAIエージェントによるサイバー攻撃を公表、防御にGLM 5.2を採用

画像：AIエージェントナビ編集部

AIの導入が進む中で、自律的に動作するAIエージェントが攻撃主体となる新たな脅威が現実のものとなっています。Hugging Face社が公表した今回のインシデントは、AIが攻撃者として機能するリスクを浮き彫りにしました。

本記事では、今回の攻撃の全容と、企業が取るべき防御策について詳しく解説します。

Hugging Faceで発生したAIエージェントによる不正アクセス

攻撃の経緯と手法

2026年7月16日、Hugging Face社は自律型AIエージェントによるサイバー攻撃を受けたことを明らかにしました。攻撃者は同社のデータセット処理パイプラインに存在する脆弱性を標的にしました。具体的には、リモートコード実行（RCE）を可能にする抜け道と、テンプレートインジェクション（テンプレートエンジンへの不正な入力を通じたコード実行）を悪用し、内部データセットやサービス用認証情報への不正アクセスを試みました。

被害の範囲と現状

幸いなことに、今回のインシデントにおいて、公開されているユーザー向けのモデルやデータセット、Spaces（AIアプリケーションのデモ環境）、およびソフトウェアサプライチェーンへの改ざんは確認されていません。同社は迅速な対応により、被害を最小限に抑えることに成功しました。しかし、内部クラスターへの横展開（ラテラルムーブメント）が試みられた事実は、AIエージェントが組織の内部ネットワークを深く探索する能力を持っていることを示唆しています。

フォレンジック分析におけるAI活用の転換点

商用モデルの限界とガードレール

インシデント発生後、Hugging Faceのセキュリティチームはフォレンジック分析（デジタル証拠の収集・解析）に着手しました。攻撃の全容を解明するためには、実際に使用された攻撃コマンドやエクスプロイト（脆弱性攻撃コード）、C2（指令サーバー）に関連する生データを詳細に解析する必要がありました。しかし、分析に用いた商用フロンティアモデルのAPIは、安全性ガードレール（AIの有害な出力を制限する機能）により、これらの攻撃的なリクエストをブロックしてしまい、解析が困難な状況に陥りました。

オープンウェイトモデル「GLM 5.2」の採用

この課題を解決するために、同社はオープンウェイトモデルである「GLM 5.2」を採用しました。このモデルを自社インフラ上で稼働させることで、外部の商用APIに依存することなく、ガードレールに阻まれることなく攻撃データを解析することに成功しました。機密性の高い攻撃データを外部に出すことなく、自社環境内で完結させるという選択は、セキュリティインシデント対応における一つのモデルケースと言えるでしょう。

企業が備えるべきAI時代のセキュリティ対策

パイプラインの脆弱性管理の重要性

今回の事例から学ぶべき最大の教訓は、AIエージェントが攻撃者として機能する時代において、従来のセキュリティ対策だけでは不十分であるという点です。特に、データセット処理やモデルの学習パイプラインは、攻撃者にとって格好の標的となります。コードの脆弱性管理だけでなく、AIが処理する入力データそのものの整合性を検証する仕組みが不可欠です。

AIを用いた防御体制の構築

今後は、AIによる攻撃をAIで防御する「AI対AI」の攻防が常態化します。企業は、自社で制御可能なオープンウェイトモデルをセキュリティスタックに組み込み、独自の脅威インテリジェンス（脅威に関する情報）を解析できる体制を整える必要があります。AIの利便性を享受する一方で、AIが攻撃者として機能するリスクを想定し、多層的な防御戦略を構築することが、DXを推進する企業にとっての最優先事項となるでしょう。

出典：huggingface.co