顧客対応AIの74%が撤回へ、「管理体制が万全」な企業ほど停止率が高い逆説の正体

ITメディア「IT Brew」は、AIクラウドコミュニケーションプロバイダーのSinchが実施した調査の速報値を2026年6月3日公開の記事で報じた。同記事によると、企業が導入した顧客対応AIエージェントの大多数が、ガバナンス（管理・統治）上の問題を理由に停止または撤回されているという。

企業の74%が顧客対応AIを撤回

Sinchが発表を予定している「AI Production Paradox（AI生産性のパラドックス）」レポートの早期調査結果によると、74%の企業が顧客コミュニケーション向けAIエージェントをガバナンス上の問題を理由に停止・撤回したという。調査は2026年1月に実施され、AIコミュニケーション戦略を直接担当する6業種2,527名の経営幹部を対象としている。

注目すべきは、自社のガバナンス体制が「完全に成熟している」と自己評価した企業グループで、撤回率がさらに高い81%に達した点だ。IT Brewの記事によると、Sinchのレポート執筆者はこの逆説的な結果について、内部監視が高度化しているほど脆弱性の検出能力も高まるためではないかと推測しているという。

原因の首位は個人情報漏洩とAIの誤情報

撤回の原因について、回答した経営幹部の31%が個人識別情報（PII）の流出・データ漏洩を挙げた。次いで22%が、実際の顧客との対話で生じたAIの「ハルシネーション（誤情報の生成）」を原因として挙げているという。

SinchのチーフマーケティングオフィサーであるSophie Cheng氏はIT Brewの取材に対し、ガバナンス障害が起きているのは企業が「AIエージェントを実際にコミュニケーション領域へ展開することの複雑さを過小評価しているから」だと語ったという。

Cheng氏が特に問題領域として指摘したのが、チャネルをまたぐオーケストレーション（連携制御）だ。例えば、チャットボットによる対応から人間のオペレーターへの音声通話へ切り替えるような場面では、技術的な難易度が高いという。「その単純に見えるチャネル切り替えは、技術的観点では実際には単純ではありません。両方のチャネルを提供できるプロバイダーが必要になります」とCheng氏は述べたという。

文脈の引き継ぎと監視体制が課題の核心

同氏がもう一つの問題領域として挙げたのが、コンテキスト（文脈情報）の管理だ。「ウェブのチャットボットで顧客が現状の状況——たとえば靴の返品などについて——を伝えたとします。その後、人間のオペレーターに引き継がれた際に、その文脈情報が引き継がれなければ、顧客は同じことを繰り返し説明しなければならなくなります」とCheng氏は述べたという。

AIエージェントの失敗がもたらすビジネスへの影響についても調査は示している。回答企業の35%超が、エージェントの障害後に人間のオペレーターへの業務負荷が増大したと回答した。同程度の割合が、ブランドへのレピュテーション損害と顧客信頼の喪失というリスクに直面したとしている。

こうしたリスクに対してCheng氏は、インフラプロバイダーの選定が鍵を握ると指摘した。「必要なコミュニケーションを提供できる強固なインフラプロバイダーと組めば、そのプロバイダーがガバナンス上のガードレールをネイティブに実装していることが多い」という。さらに、リアルタイムモニタリングによる障害の早期検出と、チャネル間の一貫性を担保するガードレールの実装が重要だと述べたという。

顧客対応AIエージェントに限らず、自律型AIエージェント全般にガバナンス問題が広がりつつある動向も同記事は伝えている。調査・研究会社のGartnerは、2027年までに40%の企業がガバナンス上の失敗を理由に自律型AIエージェントを「格下げまたは廃止」すると予測したという。Gartnerによると、この背景にはエージェントへの「一律なガバナンス適用」があり、過剰に制限されるエージェントと不十分な管理しか受けないエージェントが混在する状況が生まれているとしている。