投稿者 投稿日: カテゴリー AIニュース
世界4大会計事務所のひとつKPMGが、生成AIを使って作成したとみられる報告書をハルシネーション（事実誤認）の疑いで取り下げました。AIを業務に取り入れるEC事業者にとっても他人事ではありません。AIが生成した文章をそのまま商品説明やレポートに使えば、同じ事故が自社サイトで起こり得ます。この記事では、何が起きたのかと、ハルシネーションを防ぐための実務原則を整理します。
何が起きたか：KPMGがAI活用レポートを撤回
TechCrunchによると、KPMGは2025年10月に公開した「Redefining excellence in the age of agentic AI」と題する報告書を、内容の不正確さを調査するためウェブサイトから取り下げました。皮肉なことに、これはエージェント型AIの活用をテーマにした報告書で、その作成自体にAIが使われたとみられています。
問題を指摘したのは、AI生成文の検出を手がける研究グループGPTZeroです。報告書には複数の誤りが含まれており、これらはAIのハルシネーションに由来すると見られています。報告書がAIの活用事例として挙げていた組織のうち、UBS、英国の国民保健サービス（NHS）、スイス連邦鉄道、ロンドン交通局（Transport for London）の4社・機関は、Financial Timesに対し「自社のAI活用に関する記述は事実と異なる、あるいは誤解を招く」と反論しました。
KPMGの広報担当者は「当社はすべての社員に、責任あるAI利用のガイドラインに従うこと、すなわち人間による検証で内容を確認し、独立した情報源を確かめることを求めている」とコメントしています。つまり社内ルールはあったものの、運用が追いついていなかった形です。
同様の事故は単発ではありません。同じく大手会計事務所のEYも先月、ロイヤルティプログラムに関する報告書を撤回しています。こちらも実在しない脚注やハルシネーションが含まれていたと報じられています。専門性で評価される会計事務所ですら、AI出力の検証で足をすくわれているのが現状です。
なぜEC事業者に重要なのか
AIによるハルシネーションは、難解な研究分野の話ではなく、日々の店舗運営に直結するリスクです。EC事業者の多くが、生成AIを商品説明文、メルマガ、レビュー返信、競合分析レポート、価格調査などに使い始めています。ここでAIが事実を捏造すれば、そのまま顧客に届く文章になります。
たとえば、AIに「この成分の効果を訴求する商品説明を書いて」と指示すると、存在しない試験データや出典を、もっともらしい形で本文に織り込むことがあります。これをそのまま公開すれば、景品表示法や薬機法に抵触する表現になりかねません。競合価格をAIに調べさせた結果が古い数字や架空の店舗だった、というケースも起こり得ます。KPMGの事例が示すのは、ブランドの信頼は一度の事実誤認で大きく損なわれるということです。会計事務所にとっての報告書は、EC事業者にとっての商品ページやメルマガに置き換えられます。
ハルシネーションを防ぐEC活用5原則
AIを止める必要はありません。検証の仕組みを業務フローに組み込むことが現実的な対策です。今日から実践できる原則を5つ挙げます。
第一に、数字と固有名詞は必ず一次情報で裏取りすることです。AIが出した売上データ、調査結果、他社名、法令の条文は、公式サイトや原典に当たって確認します。第二に、出典の実在を確認することです。AIが提示したURLや脚注は、実際に開いて該当内容があるかを必ずチェックします。KPMGもEYも、架空の出典が原因でした。第三に、効果・効能の断定をAIに任せないことです。「絶対」「No.1」「治る」といった表現は薬機法・景表法のリスクが高く、AIは平気で生成します。第四に、公開前の人間レビューを1ステップ必ず挟むことです。AIの下書きを編集者が読む工程を省かないだけで、多くの事故は防げます。第五に、AI利用ルールを社内で明文化し運用まで徹底することです。KPMGの失敗は、ルールがあっても運用されなければ意味がないことを示しています。
まとめ
KPMGの報告書撤回は、AIを使うすべての組織への警鐘です。生成AIは強力な下書きツールですが、事実を保証する仕組みではありません。EC事業者は、AIが出した数字・出典・効能表現を人間が検証する工程を必ず業務に組み込み、スピードと正確性を両立させることが求められます。
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: TechCrunch
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
