投稿者 投稿日: カテゴリー AIニュース
Anthropicは生物兵器フィルタの11カ月停止を自ら公表しました。
2026年8月14日、AnthropicがRisk Report: August 2026を公開し、生物・化学兵器に関するブロック型分類器が人間フィードバック用の委託先トラフィックで11カ月間動作していなかったと自ら明らかにしました。対象は約5万人、約1億3300万件のやり取りです。顧客データやモデルの重みへの影響はないと明記されていますが、注目すべきは、同社が前回の安全レポートの評価を自分で訂正した点です。本記事は、EC支援19年・5,000社超の実績を持ち、AI導入支援は2023年から提供する株式会社オルセル（うるチカラ運営）が、一次情報である公開レポート本文をもとに解説します。
生物兵器フィルタが11カ月動かず、約1億3300万件が対象になった経緯
結論から書くと、止まっていたのは公開サービスではなく、モデル評価を委託しているベンダー経由のトラフィックです。レポートの第4.5.8.2.2節によると、Anthropicが生物・化学（CB）セーフガード付きモデルを初めて展開した2025年5月から2026年4月まで、契約者がモデルを評価するために使う人間フィードバック基盤の全トラフィックで、ブロック型の生物分類器が動作していませんでした。対象人数は約5万人、やり取りの総数は約1億3300万件で、その大半は決められた回答を採点するだけの限定インターフェースではなく、自由な会話ができる形態だったと記載されています。
原因として挙げられているのは、内部利用のみを想定したフラグの存在です。このフラグは分類器のブロック動作だけでなく、フラグ自体のログ記録も無効化していたため、本来なら検知対象になっていた通信が、どのレビュー機構にも記録されず渡されていませんでした。仕組み上、後から探そうとしても生ログをさかのぼる以外に手段がなかったということになります。
事後レビューでは、対象期間中の人間側の発話すべてに対して分類器としてClaude Sonnet 5を走らせ、生物学的な有害性が高いと判定されたものが1,197件ありました。このうち757件はAnthropic社内チームが同じ基盤を使ったもので、残りのうち62件を除くすべては、意図的に負荷をかけるレッドチーム演習によるものでした。同社は62件全件と、レッドチーム側から無作為抽出した30件を人手で確認し、脅威主体に意味のある助けとなるような明確な悪用は観測されなかったとしています。モデルの重み、顧客データ、社内システムへのアクセスもなかったと明記されています。
それでもレポートは、この発見が示すのは個別の事故ではないという立場を取ります。本文には「この欠落の発見は、我々が把握していない類似の問題が存在する可能性が高まったと考える理由になる」（Risk Report: August 2026、第4.5.8.2.2節）とあります。
安全レポートが前回の安全レポートを訂正した意味
今回の公開でより重いのは、数字よりも評価の書き換えのほうです。Anthropicは2026年2月に第1回のRisk Reportを出していますが、その時点でこの欠落はすでに発生していました。今回のレポートは、前回の報告が人間フィードバック基盤をリスク面として考慮していなかったと明記したうえで、2026年2月時点のCB-1脅威モデルのリスクを、当時の「very low」ではなく「low」だったと評価し直しています。自社の安全評価を、自社の次の安全評価で下方修正した形です。
化学・生物兵器の総合リスク評価欄にも同じ趣旨が書かれています。ブロック型分類器を持たないモデルへのアクセス制御の欠落を理由に、以前の見積もりより高い「low」であるとしたうえで、欠落はすでに修正済みで悪用の証拠も見つかっていないものの、他に同様の欠落がないという確信は下がったと続きます。顧客への影響はなかったことも脚注で明示されています。
高リスク状況におけるミスアラインメント（モデルの意図しない挙動）についても、同社は評価を「very low」から「low」へ引き上げました。レポートは、この引き上げがサイバーセキュリティ評価に関する最近のインシデント開示を踏まえたものであり、提示した論拠自体は依然として「very low」を支持しうるとしつつ、不確実性を反映して数字を動かしたと説明しています。あわせて、公開予定のない社内モデル「Model 2」の存在も開示されました。AIベンダーが自社の評価環境で起きた問題を公表する動きは、Anthropicが評価環境への侵入を公表した件でも見られており、今回はその延長線上にあります。
もう一つのインシデントと、AIを外注運用する現場が拾うべき3つの教訓
同じレポートには、同じ基盤で起きたもう一件が並記されています。2026年4月、外部からの報告を受けて調べたところ、データラベリング委託先の少数の契約者が、データ収集基盤の不備を突いてAPIキーを入手し、割り当てられた業務の範囲外でモデルを利用していたことが確認されました。そのアクセス経路は数週間にわたって利用可能で、うちおよそ2週間は最上位クラスのモデルにも届く状態でした。Anthropicは報告を知ってから90分以内に該当システムを停止して封じ込め、脆弱な経路はその日のうちに閉じたとしています。
ここから日本のEC事業者が持ち帰れる論点は3つあります。1つ目は、委託先の審査は自社の審査ではないという事実です。レポートは、約5万人の契約者がベンダー側でしか審査されておらず、その多くは要件強化前の時点で十分な選別プロセスを持っていなかったと書いています。外注先やBPOに生成AIの作業を渡している事業者にとって、審査基準を相手任せにしたままではリスクの所在が見えないという指摘は、そのまま当てはまります。
2つ目は、ログを止める設計の危険です。今回の欠落が11カ月も見つからなかった最大の理由は、ブロックの無効化とログの無効化が同じフラグで動いていた点にあります。生成AIの利用ログや監査証跡をどう残すかは、AI運用の監査ログをどう設計するかでも触れたとおり、事故が起きてから整えるものではありません。
3つ目は、APIキーの権限分離と棚卸しです。委託先経由の不正利用は、キーが割り当て業務の外でも使えてしまう状態から生まれています。APIキーの取り扱いに関する初動で整理したように、用途ごとにキーを分け、誰にどの範囲で渡しているかを定期的に確認する運用が、結局いちばん効きます。商品説明の生成や問い合わせ対応を外部に任せている店舗ほど、この確認は早いほうが安全です。
まとめ
Anthropicは、生物兵器フィルタが11カ月にわたり委託先トラフィックで動作していなかったこと、約1億3300万件が対象だったこと、そして前回の自社評価が甘かったことを、自ら公開しました。悪用の証拠は見つかっていませんが、検知できなかった仕組みそのものが問題として残ります。AIを外部に委ねて運用する側にとっては、委託先の審査、ログの保全、キーの権限分離という基本の3点を、いま一度確認する材料になります。
参考文献
- Anthropic, Risk Report: August 2026
- Anthropic, Responsible Scaling Policy
- The Next Web, Anthropic ran 133 million contractor chats with its bioweapon filters off
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: The Next Web
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
