SherLOCK、AIエージェント向けレッドチーミングテストの提供を本格化

画像の出典：SherLOCK（PR TIMES）

業務システムと連携し、自律的にタスクを遂行するAIエージェントの導入が加速する一方で、新たなセキュリティリスクへの懸念が高まっています。企業がAIを安全に活用するためには、従来の生成AIとは異なる「実行」に伴う脆弱性をいかに特定するかが喫緊の課題です。

本記事では、SherLOCK株式会社が発表したAIエージェント専用のセキュリティ診断サービスの内容と、企業が備えるべきリスク対策について解説します。

AIエージェントが抱える新たな攻撃面

拡大するアタックサーフェス

AIエージェントは、従来のチャット形式の生成AIとは異なり、外部システムとの連携や業務プロセスの自律的な操作が可能です。SherLOCK株式会社は、この特性が新たな攻撃面（アタックサーフェス）を生み出していると指摘しています。具体的には、攻撃の入り口が広がる点、AIが業務遂行のために特定の権限を保持している点、そして攻撃が成功した際の被害が拡大しやすいという3つの要因が挙げられます。

権限を持つAIの脆弱性

SherLOCKによると、AIエージェントは業務システムへのアクセス権限を持って動作するため、動作の誘導に成功した攻撃者は、その権限の範囲で機密情報の持ち出しやデータの改ざんを狙えます。また、複数のツールやシステムを自律的に横断して処理を進めるため、一つの侵害が連携先へ波及し、被害が拡大するおそれがあります。

自動化されたレッドチーミングテストの仕組み

攻撃シナリオの生成から評価まで

SherLOCK株式会社が本格化する「AIエージェント向けAIレッドチーミングテスト」は、攻撃者視点での疑似攻撃をソフトウェアで自動化するものです。専門家が都度実施する個別診断とは異なり、攻撃シナリオの生成から疑似攻撃の実行、結果の評価までをソフトウェアで自動化しています。

包括的な検証の重要性

このテストの最大の特徴は、AIモデル単体の安全性検証にとどまらない点にあります。外部システムとのAPI連携や、実際の業務フローにおける操作までを含めた包括的な検証が可能です。自動化しているため、AIエージェントの改修や連携先の追加のたびに、同じ基準で繰り返し検証できます。主な検証領域は、プロンプトインジェクション（AIへの不正な指示の紛れ込ませ）などによる動作誘導、機密情報の漏えい・不正なデータ操作、外部ツール・システム連携に伴う脆弱性、複合的な攻撃による被害拡大の4つです。

企業が取り組むべきAIセキュリティの現在地

攻撃者視点での脆弱性診断

SherLOCKは、AIエージェントの安全性やセキュリティを確保するには、AIモデルの入出力だけでなく、外部システムとの連携や実際の業務操作まで含めて検証するレッドチーミングテストが欠かせないとしています。代表取締役CEOの築地テレサ氏は、AIエージェントは「今後数カ月と待たずに次の攻撃面になる」との見方を示しています。

専門知見を活かしたリスク対策

SherLOCKはこれまで企業向けにAIレッドチーミングテストを提供してきたほか、金融・製造・ヘルスケアなどの領域でAIセキュリティ・ガバナンスソリューションを提供しています。今後はAIエージェントの業務利用の拡大に合わせて、本テストの提供を強化するとしています。

まとめ

• SherLOCK株式会社がAIエージェント向けレッドチーミングテストの提供を本格化
• 攻撃シナリオの生成から実行、評価までをソフトウェアで自動化し、改修のたびに同じ基準で検証できる
• AIモデル単体だけでなく、外部連携や業務操作まで含めて検証する
• AIエージェントの「権限」と自律的な横断処理に起因する攻撃リスクを対象にする

なお、リリースには料金や対応するAIエージェントの種類は記載されていません。検討する場合は、SherLOCKの問い合わせ窓口で確認が必要です。

出典：SherLOCK（PR TIMES）