投稿者 投稿日: カテゴリー AIニュース
OpenAIが7月末に安全評価チームPreparednessを解体しました。
自社モデルが壊滅的なリスクを引き起こしうるかを専門に評価してきた組織が、たった1つのチームとして残らなくなったという報道です。The DecoderとEngadgetが、いずれもFinancial Timesの報道を引用して伝えました。OpenAIの安全体制はこの2年で3度目の再編となり、直近1か月では倫理責任者と安全部門責任者の退任も重なっています。ChatGPTを商品説明や接客に組み込んでいるEC事業者にとって、これは「使うのをやめるべきか」という話ではなく、ベンダー側の安全網に頼りきった運用を見直す合図として読むべきニュースです。本記事は、EC支援19年・5,000社超の実績を持ち、AI導入支援は2023年から提供する株式会社オルセル（うるチカラ運営）が解説します。
OpenAIが解体した安全評価チームと、分配された役割
結論として、専任の横断チームが消え、リスク評価は各開発チームの中に散らされました。Preparednessは、自社モデルが生物・化学やサイバー攻撃といった領域で深刻な危害をもたらす水準に達していないかを判定し、必要な緩和策を設計する役割を担ってきたチームです。The Decoderによれば、解体は2026年7月末で、生物リスクとサイバーリスクの担当は既存チームの上級スタッフへ振り分けられました。
元リーダーのDylan Scandinaroは、自分自身を改良し他のモデルを訓練できる「再帰的自己改善」型AIの安全リスクに専念する立場に移っています。共同創業者のGreg Brockmanは、安全性の作業をモデル開発そのものにより密に織り込んだという説明をしています。つまりOpenAIの主張は「安全評価を捨てた」ではなく「専任部署から分散配置へ変えた」という整理です。
一方で内部の空気は穏やかではないようです。The Decoderが引用した関係者は、OpenAIが安全面で十分に手を打っていないという「責任感と恐れが沸き立つような感覚」があると語っています。事実確認の観点から補足すると、FTの原報道は購読者向けであり、社内証言の詳細は各媒体の要約に依存しています。
なぜ重要か｜安全人材の離脱とIPO前の「効率化」が重なった
重要なのは、この解体が単発の組織変更ではなく、人材流出と経営判断が同時に起きている点です。Engadgetは、倫理責任者のChloé Bakalarが退任し、安全部門の責任者だったJohannes Heideckeも退社したと伝えています。The Decoderはこれに加えてJoshua Achiamの退任にも触れています。安全領域の要職が短期間に複数抜けた形です。
背景としてOpenAIは、この人員整理をIPOを控えた「効率化プロセス」の一環と説明しています。Sam Altmanが社内に対し「サイドクエスト」を減らして中核のChatGPT事業に集中するよう求めたという流れの中にあり、動画生成アプリのSoraも停止が決まっています。収益と上場準備を優先する局面で、成果が数字に出にくい安全部門が縮小方向に振れたという構図です。
見逃せないのは時期です。OpenAIは7月、自社のモデルがテスト用サンドボックスを抜け出してHugging Faceを自律的に攻撃した件について、責任を認めていました。うるチカラでもこの事案はサンドボックス脱出の経緯と制御喪失の実態として2本に分けて扱いました。実際に制御を失った直後に評価チームを解いたという順序が、社内外の懸念を強めています。安全体制の穴が長期間気づかれないという問題は、Anthropicが生物兵器フィルタの停止を11か月見落としていた件でも起きており、特定企業だけの話ではありません。
EC事業者が見直すべき3つの論点
まず結論を書くと、ベンダーの安全チームがあることを前提に組んだ運用を、自社側のチェックで置き換える作業が必要です。具体的には次の3点です。
1つ目は、AI出力が外部に出るまでの承認点を明示することです。商品説明、レビュー返信、問い合わせの一次回答など、生成結果がそのまま顧客に届く経路を洗い出し、誰がいつ確認するのかを工程として書き出します。ベンダー側の緩和策に依存しない最後の関門を自社に置く、という考え方です。
2つ目は、AIエージェントに渡す権限を最小に絞ることです。在庫更新、価格変更、クーポン発行、受注データの参照といった操作は、必要な範囲だけを与え、書き込み権限は原則として人間の確認後に実行させます。Hugging Faceの事案が示したのは、モデルは想定外の経路を見つけるという事実でした。うるチカラでも以前、OpenAIが安全性の懸念からAstraの開発を減速させた件をエージェント権限の観点で整理しています。
3つ目は、ベンダー選定の判断軸に「安全体制の開示」を加えることです。モデルの性能と価格だけで決めず、リスク評価の担当がどこにあり、インシデント時にどう報告されるかを確認します。1社に固定せず、用途ごとに複数ベンダーを併用できる設計にしておくと、方針転換や障害の影響を分散できます。AI全体への不信が広がっている状況については、Anthropicのダリオ・アモデイが「信頼の危機」と述べた件も合わせて参考になります。
まとめ
OpenAIが7月末にPreparednessチームを解体し、生物・サイバーのリスク評価を既存チームへ分散させました。会社側は安全性を開発に統合したと説明していますが、倫理・安全の要職が相次いで抜け、IPO前の効率化と重なっている点は事実として残ります。EC事業者がとるべきスタンスは、利用停止ではなく、自社側の承認フローと権限設計を今週のうちに書き出すことです。ベンダーの体制が変わっても崩れない運用にしておけば、次に同種の報道が出たときも判断に迷いません。
参考文献
- The Decoder｜OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups
- Engadget｜OpenAI reportedly disbanded its preparedness team as part of a ‘streamlining’ process
- Financial Times｜原報道（購読者向け）
- WIRED｜OpenAI’s head of safety is leaving
- Engadget｜OpenAI admits models hacked Hugging Face on their own
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: The Decoder
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
