AIハルシネーション対策の全体像、企業の生成AIガバナンス整備が急務に

AIコンサルティング企業のKlover.AIは、生成AIが生成する不正確な情報を企業がどう防ぐかを分析した包括的レポートを2026年9月1日付で公開した。同レポートは「Enterprise Risk Management: Preventing Inaccurate Generative AI Publishing」と題されており、Klover.AIのリサーチ・アナリシス部門（RAD）によるグローバル企業向けの詳細分析だという。

企業の78〜88%がAIを業務に活用

レポートによると、世界の企業の78〜88%が少なくとも1つの業務機能で生成AIを定期的に使用していると報告しているという。一方で、企業統治の整備は技術導入の速度に追いついていないとしている。企業取締役会の35%しかAI監視体制を整備しておらず、取締役の66%がAIに関する知識や経験が「乏しい〜ほぼない」と認めているという。

このような技術導入とガバナンス整備の乖離について、同レポートは「GenAI Divide（生成AI格差）」と呼んでいる。研究者たちがそう命名したこの現象の結果、記録に残るAI関連インシデントが1年間で233件から362件に急増したと同レポートは伝えている。

ハルシネーションが企業の公開情報に忍び込む

レポートが最大の課題として挙げるのが「ハルシネーション（hallucination）」、すなわち生成AIが事実と異なる情報をもっともらしく出力する現象だ。同レポートによると、LLM（大規模言語モデル）をはじめとする生成AIは、言語的な流暢さと自然さを事実の正確性より優先するよう数学的に設計されているという。そのため、十分なコンテキスト（文脈情報）が与えられない状況では、AIはプロンプト（指示）に応えるために事実を流暢に「創作」してしまうとしている。

従業員がこうした未検証の出力を外部向けのコミュニケーション文書、財務報告書、あるいは自動化された顧客対応に活用した場合、企業は公開された不正確情報に対して直接的な法的責任を負うことになると同レポートは警告している。

「シャドーAI」と企業ガバナンスの限界

レポートが特に問題視するのが「シャドーAI」の存在だ。これは、企業が承認していない消費者向け生成AIツールを従業員が個人的に使用する行為を指す。AIリスク分析企業のAlice Labsが公開したインサイトレポートは、このリスクをより具体的なデータで裏付けている。

Alice Labsのレポートによると、IT調査会社のGartnerが2026年4月に発表した調査では、企業の生成AIアプリケーションのうち年間5件以上のセキュリティインシデントを経験する割合が、2025年の9%から2028年には25%へと約3倍近くに膨らむと予測されているという。また、米国政府監査院（GAO）が2025年7月に報告したところによると、米連邦政府機関における生成AIの利用は2023年から2024年の1年間で9倍に増加したとAlice Labsは伝えている。

Alice Labsのレポートはデータ漏洩リスクについても詳述している。従業員が個人アカウントのChatGPTやClaude、Geminiといった公開型AIツールに企業の機密データを入力するケースが常態化しているという。こうした行為は、データ処理契約（DPA）も監査証跡もアクセス制御も存在しない環境で企業の機密情報を外部に晒すリスクをはらんでいるとしている。

さらにAlice Labsのレポートは、EUのGDPR（一般データ保護規則）との関係にも言及している。EU居住者の個人データを処理する場合、データ処理契約を締結せずに公開型LLMのAPIを利用することはGDPR違反にあたると指摘しており、EU居住者のデータを扱うすべての生成AIツールについてDPAの締結確認が必要だとしている。

同レポートはまた、ガバナンスと実際の展開時期には遅れが生じるという傾向についても言及している。コンサルティング会社のDeloitteによる追跡調査では、企業が生成AIの投資・展開を進める一方で、ガバナンスやリスク管理の整備が一貫して展開スケジュールより12〜18ヶ月遅れていることが示されているとAlice Labsは伝えている。