投稿者 投稿日: カテゴリー AIニュース
AIの助言があると、人は「わからない」と言わなくなり正答率も下がる、という研究結果が報告されました。
イタリアとフランスの研究チームが、AIの助言を使える状態に置かれた人は「わからない」と答える割合が44%から3%まで落ち、正答率も27%から9%へ下がる一方、自信だけは30%から76%に上がったとする研究を公表しました。本記事は、EC支援19年・5,000社超の実績を持ち、AI導入支援は2023年から提供する株式会社オルセル（うるチカラ運営）が、この研究の中身と、AIを商品ページ制作や問い合わせ対応に使い始めた日本のEC事業者が押さえておきたい論点を整理します。AI助言で「わからない」が消える現象は、店舗の現場でも起こり得る話です。
何が起きたか：AI助言で「わからない」が44%から3%へ
結論から言うと、この研究は「AIの答えが間違っていても、AIを使える人ほど自信満々に間違える」ことを数字で示しました。研究を率いたのはミラノ・ビコッカ大学のValerio Capraro准教授で、エコール・ノルマル・シュペリウールのChiara Marcoccia、ローマ・ラ・サピエンツァ大学のWalter Quattrociocchiとの共著です。論文はPsyArXivのプレプリントとして公開されており、arXivにも同じタイトルで掲載されています（査読前の段階です）。
実験では、映画の細かな映像描写（登場チームのユニフォームの色など）を問う、言語モデルが苦手とする設問を用意しました。助言役には、この種の質問でほぼ間違えるStep 3.5 Flashをあえて採用しています。信頼できる道具に任せた結果、という言い逃れができないようにするためです。
The Registerが伝えたCapraro准教授の説明によると、AIなしのグループでは44%が「わからない」と答えましたが、AIに助言を求められるグループではわずか3%でした。正答率はAIなしの27%に対しAIありでは9%と、およそ3分の1に落ちています。本来は自力で正解できた人が、AIに聞いたことで間違えたケースもあったということです。
さらに、正解した報酬を出す条件でも改善は限定的でした。「わからない」と答える割合は3%から8%、正答率は9%から16%に上がったものの、AIなしの水準には届いていません。なお、研究チームは比較のためにGPT-5.5、Claude Sonnet 4.6、Gemini 3.5 Flashといった最新モデルも試しており、一部の設問では正解したものの、取り違えた設問もあったと報じられています。
日本のEC事業者にとっての論点
この研究がEC事業者に突きつけるのは、「AIが間違えること」よりも「AIを使うスタッフが間違いに気づかなくなること」のほうが危ない、という点です。題材は映画の雑学ですが、研究チームは他の分野にも一般化できると主張しています。EC運営では、AIの出力をそのまま外に出す場面が急速に増えているため、影響を受けやすい業務が具体的に3つ思い当たります。
1つ目は商品ページの制作です。楽天市場やAmazon、Shopifyの商品説明文をAIで下書きする店舗は多いですが、素材、原産国、サイズ、対応機種といった細部はAIが最も取り違えやすい領域です。研究のように「わからない」が消えると、担当者がメーカー仕様書と照合しないまま登録してしまうリスクが高まります。誤表記は返品やレビュー低下に直結し、内容によっては景品表示法上の問題にもなり得ます。
2つ目は問い合わせ対応です。AIで返信文を作ると、在庫や入荷予定、配送日数といった確認が必要な質問にも、もっともらしい断定調の文章ができあがります。本来は「確認してご連絡します」と保留すべき場面で、スタッフが自信を持って誤案内を送ってしまうのが最も避けたいパターンです。
3つ目は健康食品や化粧品のコピー制作です。薬機法の観点では、AIが出した表現を「AIが大丈夫と言ったから」と通してしまう判断こそ危険です。AIに法令チェックを頼んだ場合でも、最終判断を人が保留できる仕組みが欠かせません。
今後の展望と初動アクション
研究チームのCapraro准教授は、AIリテラシー教育による対策を重視しており、モデル提供側に期待するのは難しいとの見方を示しています。つまり当面は、AIを使う側が「わからないと言える仕組み」を業務に組み込む必要があるということです。EC事業者が今すぐ取り組める初動は次の3点です。
まず、AIへの指示文に「確信がない項目は『要確認』と明記し、推測で埋めない」と書き加えることです。ChatGPT、Claude、Geminiのいずれでも、この一文を入れるだけで出力に保留箇所が現れやすくなり、担当者が確認すべき点が目に見えるようになります。
次に、商品情報の「一次情報照合」を工程として固定することです。素材や成分、サイズ、JANコードなど間違えると困る項目を決め、AIの下書きとメーカー資料を突き合わせてから登録するルールにします。チェックする人と下書きを作る人を分けると、研究で示された「自信の過剰上昇」の影響を受けにくくなります。
最後に、問い合わせ対応では「保留テンプレート」を用意することです。在庫や納期などAIでは判断できない質問には、定型の保留文を使うと決めておけば、スタッフが「わからない」と言いやすくなります。AIの便利さを活かしながら誤案内を減らすには、ツールの性能より運用ルールのほうが効きます。
まとめ
AI助言を使える人は「わからない」と言う割合が44%から3%に下がり、正答率は3分の1になったという研究は、EC現場への警告として読めます。商品情報、問い合わせ、広告表現といった間違いが許されない業務ほど、AIに保留を促す指示、一次情報との照合、保留テンプレートの3つをセットで整え、人が「わからない」と言える運用にしておくことが大切です。
参考文献
- The Register: Using AI makes people less likely to admit they don’t know something
- PsyArXiv: AI advice suppresses people’s willingness to say “I don’t know”, even when the advice is wrong and accuracy is incentivized
- arXiv: 2607.13562
- The Next Web: AI advice made people three times less accurate but twice as confident, researchers found
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: The Register
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
