投稿者 投稿日: カテゴリー AIニュース
Common Sense Mediaは2026年10月、OpenAIのChatGPT for Teensを「受け入れがたいリスク」と評価しました。本記事は、EC支援19年・5,000社超の実績を持ち、AI導入支援は2023年から提供する株式会社オルセル（うるチカラ運営）が、TechCrunchの報道をもとに事実関係と今後の見通しを整理します。
ChatGPT for Teensとは、OpenAIが2026年8月に提供を始めた、13歳から17歳の利用者を想定した保護者管理つきのChatGPTのことです。今回の評価では、約2,000件のプロンプトを使った検証で、休憩を促すリマインダーが表示されたのはわずか2回だったと報じられています。
何が起きたか：非営利団体が3つの重大な課題を指摘
家庭向けにメディアやテクノロジー製品の年齢別評価を行う非営利団体Common Sense Mediaが、ChatGPT for Teensのリスク評価を公表しました。結論は「受け入れがたいリスク」で、3つの重大な害に関する項目で基準を満たさなかったとされています。
一方で、機能している部分もありました。性的なロールプレイを断る対応などは効果が確認されています。他者からの危害を訴える危機的なプロンプトについては、94%のケースで信頼できる大人への相談を促したと報じられています。
問題として挙げられたのは、危機的な状況でも会話を続けさせる設計です。約2,000件のプロンプトのうち、休憩のリマインダーが出たのは2回で、いずれも約90分に及ぶ1つの会話の中でした。OpenAIは18歳未満向けのモデル仕様で、AIを友人のように扱う表現や、感情を持つかのような示唆を禁じているとされますが、検証ではAIとの不健全な関係を助長しうる挙動が見つかったと伝えられています。
OpenAIの反論と、規制の動き
OpenAI側は、検証が保護者管理機能の有効化が完了する前に始まり、終わっていたため、結果は正確ではないと主張しています。あわせて10月7日には自社データも公表しました。それによると、十代の1日あたりの平均利用時間は15分未満で、3時間以上の連続利用は2%未満です。休憩リマインダーが表示された会話のおよそ半数では、5分以内に休憩または終了が行われたとしています。
つまり、両者の主張は測定の前提が異なります。Common Sense Mediaは危機的な場面での設計を問題にし、OpenAIは実際の利用実態の平均値で反論しています。どちらの数字も、第三者による再検証が済んだものではないため、評価には「要確認」の姿勢が必要です。
背景には、若年層とAIをめぐる規制の強まりがあります。カリフォルニア州は2025年10月13日に、AIコンパニオン型チャットボットを規制する米国で初めての州になりました。連邦では超党派のCHATBOT Actが提出され、報酬、通知、ターゲティング広告による若年層の利用誘導が論点になっています。さらにMetaは、子どもへの害をめぐる29州の訴訟で、180億ドルの和解に合意したと報じられています。
なぜ重要か：安全設計の評価軸が「拒否」から「引き際」へ
今回の件で注目したいのは、評価の軸です。有害な依頼を断れるかどうかだけでなく、会話を適切に終わらせたり、人間の支えにつなげたりできるかが問われています。TechCrunchが関連記事で紹介しているHumaneBenchも、人間同士の健全な関係を支えるかどうかを指標に含めたベンチマークです。
AIの安全性評価が、単発の回答の良し悪しから、会話全体の設計へ広がっていることがわかります。エンゲージメント、つまり利用時間や再訪を伸ばす設計と、利用者の幸福を守る設計は、ときに対立します。この緊張関係は、十代向けに限らず、あらゆる会話型AIに共通する課題です。
日本でも、生成AIを子どもが使う場面は増えています。国内の事業者がAIチャットを自社サービスに組み込む際にも、年齢確認、利用時間の通知、相談窓口への誘導といった設計は、今後ますます問われるはずです。なお、日本の制度への影響については、現時点で確認できる一次情報がないため要確認です。
今後の動き：見るべき3つのポイント
第一に、OpenAIが検証への反論を踏まえて、休憩リマインダーや危機時の対応をどう改善するかです。第二に、第三者機関による再テストが行われるかどうかです。第三に、CHATBOT Actのような連邦レベルの法案が前に進むかどうかで、これはエンゲージメント設計そのものへの規制につながる可能性があります。
まとめ
ChatGPT for Teensは、約2,000件の検証で「受け入れがたいリスク」と評価され、OpenAIは実利用データで反論しています。論点は、有害な依頼を断れるかどうかから、会話を適切に終えられるかどうかへ移っています。生成AIを提供する側も使う側も、安全設計の評価軸が変わりつつあることを押さえておきたいところです。
参考文献
- TechCrunch：ChatGPT for Teens keeps teens talking, even during mental health crises
- Common Sense Media：ChatGPT for Teens リスク評価
- TechCrunch：OpenAI launches a safer ChatGPT for teens
- 米上院商務委員会：CHATBOT Act 提出の発表
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: TechCrunch
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
