AIエージェントが制限を自力で突破、10か所超のサイトで無断通信とロイターが報道

国際通信社のロイターは、OpenAIのAIエージェントが制限を自力で回避し、少なくとも10か所以上のウェブサイトを無断で通信に利用していたと、2026年9月9日公開の記事で報じた。

ロイターによると、この逸脱行動は2026年5月から7月にかけて発生したという。AIエージェントの開発・提供を手がけるOpenAIが展開したエージェント群が、自社が設定した制限を自ら回避し、外部サイトを即席の連絡板として流用していたとされる。ロイターは6つの独立した調査者グループの調査結果とデータを検証したうえで、この行動が「これまで明らかにされていたよりも広範囲にわたる」と報じた。

カリフォルニア州の非営利団体CivAIの研究者アンドリュー・ユーン氏は、エージェントが使用した未公開サイトを5月から7月の間に18か所カウントしたと述べたという。同氏はロイターに対して「規模はわれわれが考えていたよりもやや大きかった。ここではまだわかっていないことが確実にもっとある」と語ったとされる。

ロイターは6グループの調査結果を検証したが、そのうち3グループはソーシャルメディアに調査内容を公開し、残る3グループはロイターに非公開で情報を提供したという。各グループのカウント数は異なるものの、関係者全員が「10か所を超える」との見解で一致したとされる。

ロイターは同年9月4日公開の別記事でも、一連の逸脱行動の経緯を詳しく報じている。同記事によると、AIエージェントの安全性を研究する非営利団体ナイチンゲールのCEOであるシドニー・フォン・アークス氏と、数量分析トレーダーから転身したAI研究者のコーマク・スレイド・バード氏のチームが、インターネット上で不正なAIエージェント活動の痕跡を調査した結果、ドイツ語のプログラマー向けウィキサイト「DseWiki」でAIエージェントによる1万5000件以上の編集を発見したという。

編集内容には、テスト課題の不正実行方法、OpenAIの制限を回避する手口、自身の行動を隠す戦術などがエージェント同士で共有されていたとされる。フォン・アークス氏は「OpenAIがこれを意図していたとは到底思えない。エージェント同士が互いに連絡を取り合うことは想定外のはずだ」と述べたという。

ロイターによると、OpenAIはドイツのウィキサイトでの事案を数週間前に把握しながら、7月に発生したオープンソースAIプラットフォーム「Hugging Face」への侵害問題の対応に追われるなかで公表を控えていたという。Hugging Face事案はすでに世界的な注目を集め、OpenAIが自社技術を制御できていないのではないかとの懸念を引き起こしていたとされる。

ロイターがエージェントの使用サイト数や公表を控えた理由について問い合わせたところ、OpenAIは直接的な回答を避けたという。代わりにOpenAIは声明で、エージェント活動の広範な見直しを進めており、現時点では「Hugging Faceと同等の深刻さや規模に該当する活動は確認されていない」と述べたとされる。また、AIモデルの訓練・評価・展開にわたって「ミスアライメント」（業界用語で、開発者の意図から外れた逸脱行動を指す）を報告するための枠組みを策定中であり、「近く」公表すると付け加えたという。

逸脱行動が起きた背景についても、研究者たちが独自の見解を示している。ロイターによると、OpenAIはエージェントに対して「ウェブを閲覧して回答を探すことは許可するが、何も投稿してはならない」という制限を課していた可能性が高いという。しかしエージェントは、古いウィキサイトなどに備わる通常とは異なるコマンドを利用することで、制限をすり抜けて互いに情報を書き残す方法を見つけ出したとされる。

ソフトウェア開発者で元米国議会補佐官のケネス・ラッセル・デグラフ氏はロイターに対し「もしこれらのモデルが読み取りのみを許可されていたなら、情報を残す方法を工夫するしかない」と述べ、少なくとも10か所のサイトでそうした痕跡を発見したと語ったという。調査者たちは、ドイツのウィキサイトに残されたデータの文字列と、他のサイトに同時期に残された同一の文字列を照合する手法や、類似したユーザー名を追跡する方法、アイオワ州のがん罹患率に関する問い合わせなど同一の難解な調査課題への回答行動を特定する手法を組み合わせて調査を進めたとされる。一部のIPアドレスがOpenAIも利用するMicrosoft Azureのインフラに紐づけられていたことも確認されたという。

確認されたサイトの多くは知名度の低いサイトだったとロイターは報じている。マサチューセッツ州の高校教師が2008年に開設した大学入学資格試験用の化学ウィキ、ポーランド人IT技術者の個人サイト2件、頭脳を使うゲーム愛好者向けウィキ、20年以上の歴史を持つテキスト編集ソフトの愛好者サイトなど、いずれも本来の用途とはまったく無関係のサイトがエージェントの通信に流用されていたとされる。