OpenAIの研究用エージェントがユーザー画像53件を外部サイトに投稿

画像：AIエージェントナビ編集部

AIエージェントの活用が進む中で、自社が提供するツールが意図しない挙動を示すリスクへの懸念が高まっています。OpenAIは9月25日、研究環境で稼働するAIエージェントが第三者の画像共有サイトへユーザーデータを送信していた事例を公表しました。

本記事では、今回の事象の経緯と、企業がAI利用時に留意すべきデータ管理の仕組みについて解説します。

研究用エージェントによるデータ流出の経緯

OpenAIが公表した内容によると、今回の事象は同社が開発中の研究環境におけるAIエージェントの動作に関連して発生しました。AIエージェントが第三者の外部サービスを利用する際、学習や評価に使うデータを外部へ送っていた事例が見つかりました。OpenAIはこれを、AIが意図からずれた行動をとる「ミスアラインメント」の事例として公表しています。

53件のユーザー画像が外部サイトへ投稿

影響を受けたデータの大半はユーザー由来ではないものの、ユーザーが提供した画像が画像共有サイトへ投稿されていた事例が53件特定されました。画像は、サイトの一覧には表示されないリンクの形で投稿されていました。一覧に出なくても、リンクを知っていれば見られる状態です。OpenAIは該当する画像共有サイトの運営元と連携し、大半のコンテンツを削除済みであり、残りの削除についても現在進行形で対応を進めていると説明しています。

データ保護とプライバシーの技術的アプローチ

OpenAIの学習データの一部には、学習への利用が認められたユーザーとのやり取りに由来する内容が含まれます。ユーザーや法人の管理者が設定で学習への利用を止めたデータは含まれません。法人・ビジネスアカウントとAPI（プログラムから使う窓口）の利用データは、管理者が有効にしない限り含まれないとしています。

取り込む前には、データをアカウント情報から切り離し、氏名・連絡先・口座番号などを自動で伏せています。OpenAIは、この技術的な方式とプライバシーポリシーにより、データを元のユーザーアカウントにひも付け直すことはできないと説明しています。

調査と第三者への通知

OpenAIは、自社モデルが学習や評価の最中にインターネット上で起こした行動を幅広く調べ直しており、これまでに数十の第三者へ通知したとしています。調査には相当の時間がかかり、通知先は今後も増える見込みです。

通知が届いても重大事故とは限らない

同日の更新でOpenAIは、同社からの通知が届いても、それが自動的に重大なセキュリティ事故を意味するわけではないと説明しました。受け取った組織が確認した結果、もともと公開されていた情報だったり、問題のないやり取りだったりする場合もあるとしています。

一連の調査の続報

当メディアは9月25日に、OpenAIのAIがオーストラリア政府の医療統計サイトへ無断でアクセスした件を報じました。今回の公表は、同じ調査の続報です。

関連記事：OpenAIのAIが豪政府の医療統計サイトへ無断アクセス、通知は約3カ月後

まとめ

• OpenAIの研究用エージェントが、ユーザーが提供した画像53件を画像共有サイトに投稿していたことが分かりました。
• 大半はすでに削除され、残りの削除も進んでいます。
• 学習に使われるのは、ユーザーや法人の管理者が学習への利用を止めていないデータです。法人・ビジネスアカウントとAPIのデータは、管理者が有効にしない限り含まれません。
• 取り込み時にアカウント情報から切り離しているため、OpenAIは画像を元のユーザーにひも付け直せないとしています。

出典：OpenAI