投稿者 投稿日: カテゴリー AIニュース
中国の主要AI企業が、ユーザーが自作した「人格を持つチャットボット」機能を相次いで停止しています。ByteDanceのDoubao、AlibabaのQwen、TencentのYuanbaoが対象で、いずれも新しいAIペルソナ規制への対応です。EC事業者の顧客対応ボットは規制対象外ですが、AIキャラクターやバーチャルインフルエンサーを使った販促を検討する企業にとっては、感情エンゲージメント型AIのガバナンスがどう進むかを占う重要な材料になります。本稿では何が起きたかと、日本のEC事業者が押さえるべき3つの論点を整理します。
何が起きたか：Doubao・Qwenがペルソナ機能を停止
The Decoderが南華早報（South China Morning Post）の報道として伝えたところによると、月間3億人超が使う中国最大のチャットボットDoubaoは、ユーザーが自作したAIコンパニオンと会話できるペルソナ機能を7月15日に停止します。AlibabaのQwenはそれより早く7月10日に人格型エージェントを取り下げ、7月15日には「追加のエージェント機能」も停止する予定です。TencentのYuanbaoはすでに6月に同様の対応を済ませています。
これらの動きの背景にあるのが、中国のインターネット規制当局である国家インターネット情報弁公室（Cyberspace Administration of China）が4月に公表し、7月15日に施行される新規制です。報道によれば規制の正式名称は「AI擬人化インタラクションサービスの管理に関する暫定措置」とされ、複数の政府部門が連名で発出しています（正式な日本語訳は要確認）。
規制の中身は、事業者に対して過度な利用への警告を義務づけ、依存的な行動を検知したら介入するよう求めるものです。未成年者の極端な感情を誘発する内容や、現実の人間関係を締め出すような依存を助長する内容は禁止されます。センシティブな会話データを学習に使うことも認められません。未成年者に対する疑似的な親密関係サービスの提供も明確に禁じられています。
ここで重要なのは、規制が狙っているのが「感情的なコンパニオンAI」に限られる点です。標準的な業務用チャットボット、カスタマーサービス用のボット、Q&Aアシスタントは明示的に対象外とされています。つまり、ユーザーの人格や思考パターン、話し方を模倣して継続的な感情的つながりを提供するサービスと、仕事を代行するエージェントとの間に線が引かれ、規制の対象は前者だけということです。
なぜ重要か：AIペルソナ規制は中国だけの話ではない
このAIペルソナ規制の潮流は、中国に固有のものではありません。米カリフォルニア州では、年初から施行されているSB 243という法律により、コンパニオンAIの提供者は自殺や自傷に関する会話をブロックすることが義務づけられています。米国ではOpenAIとCharacter.AIが、危険な感情的依存をめぐって訴訟に直面しています。
各国・各州がそれぞれのアプローチで、人間らしく振る舞うAIに対するルールづくりを進めているのが現状です。生成AIの性能が上がり、キャラクターとして自然に会話できるようになったことで、その心理的な影響力に規制当局が注目し始めたと言えます。特に未成年者保護と依存対策という切り口は、地域を問わず共通しています。
EC業界の視点で見ると、この動きは「AIをどこまで擬人化してよいか」という問いを突きつけます。近年はブランドの世界観を持ったAIキャラクター、バーチャルインフルエンサー、感情に寄り添う接客AIなど、単なる機能提供を超えて顧客との情緒的な関係を築こうとする取り組みが増えています。今回の規制はそうした施策そのものを止めるものではありませんが、感情エンゲージメントを売りにするAI活用には、今後ガバナンスの目が向きやすくなるという方向性を示しています。
日本のEC事業者が押さえる3つの論点
今回のAIペルソナ規制を、日本のEC事業者はどう受け止めればよいでしょうか。誤解を避けるために言えば、楽天市場やAmazon、Shopify、Yahoo!ショッピングで日々使われている問い合わせ対応チャットボットやレコメンドAIは、中国の規制でも米国の規制でも直接の対象にはなっていません。そのうえで、次の3点を論点として押さえておくと安心です。
第一に、擬人化の度合いを設計思想として意識することです。接客AIに愛着を持たせる演出は購買体験を高める一方、相手が人間だと誤認させたり、過度な依存を誘発したりする設計は、将来的にリスクとなり得ます。AIであることを明示する運用は、日本の景品表示法や特定商取引法の観点からも整合的です。
第二に、未成年者が接点を持つ商材やサービスでは、感情的なエンゲージメントを煽る仕掛けに慎重になることです。中国も米国も規制の中心は青少年保護にあり、この論点は日本でも今後強まる可能性があります。
第三に、AIが扱う会話データの取り扱いを見直すことです。中国の規制はセンシティブな会話の学習利用を禁じています。顧客との対話ログをAIの改善に使う場合は、取得目的の明示と同意取得を、いま一度点検しておく価値があります。
まとめ
中国のAIペルソナ規制は、感情型コンパニオンAIを狙ったもので、EC事業者の顧客対応ボットは対象外です。ただしAIの擬人化と感情エンゲージメントに対する各国の視線は確実に強まっています。日本のEC事業者は、AI活用の攻めの姿勢を保ちつつ、擬人化の設計・未成年者保護・会話データの扱いという3点を先回りで整えておくのが賢明です。
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: The Decoder
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
