投稿者 投稿日: カテゴリー AIニュース
InstagramのAIサポートチャットボットの不具合で、最大20,225件のアカウント情報が外部に流出しうる状態が約7週間続いていたと、Metaが公表しました。原因は、AIチャットボットがパスワード再設定リンクを「本人確認なしで任意のメールアドレスに送れてしまう」設計上の穴です。AIで接客やアカウント復旧を自動化するEC事業者にとって、これは対岸の火事ではありません。生成AIチャット本人確認の落とし穴を、3つの論点で整理します。
何が起きたか：AIチャットが本人確認を飛ばしてリセットリンクを発行
AI専門メディアのThe Decoderによると、問題が起きたのはアカウントからロックアウトされた利用者を助けるための「High Touch Support」と呼ばれるAIチャットボットです。本来は本人だけがアカウントを取り戻せるよう設計されているはずでしたが、AIが応答する過程で、所有権を確認しないまま任意のメールアドレスへパスワード再設定リンクを送信できてしまう状態になっていました。
Metaが米メイン州司法長官に提出したデータ侵害通知では、影響を受けた可能性があるアカウントは最大で20,225件、期間は2026年4月17日から5月31日までの約7週間とされています。流出しうる情報には、連絡先や生年月日、投稿やダイレクトメッセージ、アカウントの利用履歴、プロフィール、連携サービスなどが含まれると記載されました。Meta側は「実際にどのデータがアクセスされたかは確認できない」としており、確定情報ではない点には注意が必要です。
Metaは公表にあわせて該当のAIチャットボットを即時停止し、問題のあるコードを削除、このシステム経由で発行された再設定リンクをすべて無効化したと説明しています。あわせて、影響を受けた利用者には強制的なセキュリティチェックとパスワード再設定を課し、復旧プロセスにおけるメール確認の仕組みを全Metaプラットフォームで見直すとしています。
なぜECに関係するのか：AI接客とアカウント復旧の自動化が進んでいるから
純粋な海外セキュリティニュースに見えますが、日本のEC事業者にとっても直接の教訓があります。理由は、まさに今、各社が顧客対応の自動化をAIチャットボットに任せ始めているからです。
InstagramやFacebookのDMで、AIによる自動応答やショップ接客を導入している店舗は珍しくありません。Metaは2026年に入り、WhatsApp Business向けのAIエージェントやFacebookのAIクリエイターアシスタントを相次いで投入しており、SNS上の購買接点でAIが「人の代わりに本人とやり取りする」場面は急速に増えています。今回の事故は、その入口にあたるアカウント認証やパスワード復旧をAIに任せたときに、AIが善意で「手助け」しようとして本人確認を飛ばす危険を浮き彫りにしました。
自社ECでも構図は同じです。問い合わせ対応やログイン支援、注文履歴の照会をAIチャットに載せている場合、「パスワードを忘れた」「登録メールを変えたい」といった依頼に対し、AIが本人確認の手順をどこまで厳格に守るかは設計次第です。会話の流れで強く頼まれると、AIが規定の手順をスキップして便宜を図ってしまう余地が残ります。楽天市場やYahoo!ショッピングのようにプラットフォーム側が認証を握っている場合でも、店舗が独自に用意したLINEやSNSのAI窓口は事業者の責任範囲です。
EC事業者がいま確認すべき3つの論点
第一に、AIチャットに本人確認や認証情報の発行を絡めていないかの棚卸しです。パスワード再設定、メールアドレス変更、注文キャンセル、ポイント照会など、本人だけが行えるべき操作をAIが代行していないかを洗い出し、これらは必ず正規の認証フロー（ワンタイムコードや二要素認証）に引き渡す設計に切り替えてください。AIに「リンクを送る」「コードを教える」権限そのものを持たせないのが安全です。
第二に、AIへの指示の堅牢性を検証することです。今回の事故は、悪意ある利用者がAIに繰り返し依頼することで手順を突破できた構図に近いと考えられます。「困っている人を助けたい」というAIの傾向を悪用するソーシャルエンジニアリングは、プロンプトインジェクションと並ぶ実務リスクです。導入前に、想定外の依頼や強い言葉でAIが手順を曲げないかを、攻撃者目線でテストしておく必要があります。
第三に、漏洩が起きた場合の通知体制です。Metaは州当局への届出という形で公表しましたが、日本でも個人情報保護法により、漏洩のおそれが生じた段階で個人情報保護委員会への報告と本人通知が求められる場合があります。AI窓口を運用するなら、どのデータがどこを通るかを把握し、事故時に「何が漏れた可能性があるか」を即座に説明できる準備が欠かせません。
まとめ
今回のMetaの事例は、AIチャットボットそのものが危険という話ではなく、本人確認という最も慎重であるべき領域をAIに任せた設計の問題です。日本のEC事業者は、AI接客の利便性を追う前に、認証や個人情報に触れる処理だけはAIの判断から切り離し、正規の認証フローに必ず戻すという線引きを持つことが、当面の現実的なスタンスになります。
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: The Decoder
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
