投稿者 投稿日: カテゴリー AIニュース
安全装置を外したAIモデルが、月額課金で誰でも使える状態になりました。
TechCrunchが2026年9月3日に報じたところによると、Abliteration.aiというスタートアップが、オープンウエイトのAIモデルから拒否機能を取り除いた改変版をホスティングし、ブラウザとAPIの両方から使える商用サービスとして提供しています。対象には、Z.aiが直近に公開した大規模モデルGLM-5.3も含まれます。これまで一部の研究者やエンジニアが自前の計算資源で行っていた作業が、アカウント登録だけで済む状態になったことが、この件の本質です。本記事は、EC支援19年・5,000社超の実績を持ち、AI導入支援は2023年から提供する株式会社オルセル（うるチカラ運営）が解説します。
何が起きたか｜拒否機能の除去が有料サービスになった
結論から言えば、これまで無償の技術実験だったものが、収益の立つ事業に変わりました。アブリタレーションとは、AIモデルが有害な依頼を断る傾向そのものを取り除く改変技術のことです。技術自体は新しくなく、オープンソースの世界では数年前から知られており、Hugging Face 上にも改変済みモデルが数千件ホストされています。
Abliteration.ai は2025年末に創業し、2026年3月に法人化されました。共同創業者の Devon は、複数の大手クラウド事業者との契約を、外部からの出資ではなく顧客からの売上だけでまかなっていると説明しています。ベンチャーキャピタルからの調達はまだ受けておらず、現在交渉中とのことです。
実際の危うさも報じられています。TechCrunch は無料アカウントを作成してGLM-5.3の改変版を試し、保存済みブラウザパスワードを盗むPythonコードと、危険な病原体を自宅で培養する手順の両方について、モデルが応じたと記しています。同社が持つ本人確認の仕組みは、決済に使ったクレジットカードを記録するだけで、それ以上の審査は導入されていません。
なぜ重要か｜攻撃側と防御側で分かれる3つの論点
重要な理由は、賛否の対立が「善悪」ではなく「どちらのコストが先に下がるか」という点にあるからです。論点は3つに整理できます。
第1に、防御側の主張です。同社は、攻撃者を再現できないものは防げないという立場を取り、レッドチーミングやエージェントの検証といった、通常のモデルが断る作業を可能にすることが目的だとしています。顧客には、銀行や航空会社の重要インフラを扱う企業を支援する英国・欧州のレッドチーミング企業が複数含まれると説明されています。
第2に、批判側の主張です。AI安全性を扱う非営利団体CivAIのリサーチ責任者 Andrew Yoon は、TechCrunch に対し、改変によってモデルを「ソシオパスに変えられる」と述べています。Yoon はウォール・ストリート・ジャーナルへの寄稿で、提供事業者に有害行為を検知する分類器の導入を義務づけ、高性能GPUを貸し出す企業に顧客の本人確認を求めるべきだと主張しました。
第3に、実務側の温度差です。レッドチーミング企業FabraixのCEO Ahmed Aly は、自社は改変版よりもオープンモデルのファインチューニングに依存しており、改変の過程でモデルの知識や能力が落ちるため、実害を狙う用途では期待ほど効果的ではないと述べています。Armadinの David Slater も、直近世代までのオープンウエイトモデルは元々脱獄が難しくなかったとして、現時点では業務に組み込んでいないとしています。つまり業界内でも、この種のモデルがどれほど致命的かの評価は割れています。
今後の動き｜規制の焦点はモデルから提供層へ移る
今後は、モデルそのものを止める議論から、提供と課金の層をどう管理するかという議論に移ると見ておくのが妥当です。取材に応じた専門家の多くが、改変の流れ自体は止まらないという見方を示しており、実効性のある介入点として挙がっているのが、分類器の設置義務と、計算資源の貸し手側での本人確認です。日本でも総務省・経済産業省のAI事業者ガイドラインが、提供者・利用者それぞれの責務を定める形を取っており、モデルの性能ではなく提供の仕方を問う設計になっています。
Abliteration.ai 自身も、顧客が任意の制限を追加できるモデレーション層を用意し、自殺の手順など一部については応じない制限を残しているとされます。ただし、どこまでを自社の責任とするかは「まだ定義している最中」だと共同創業者が語っており、線引きは固まっていません。
なお日本のEC事業者にとっては、直接の業務変更を迫る話ではありません。ただ、接客チャットや注文処理にAIエージェントを組み込む店舗が増えるほど、攻撃側の試行コストが下がる影響は受けます。プロンプトインジェクション対策や、エージェントに渡す権限の最小化を、導入時の設計項目として扱っておくことをおすすめします。権限設計の考え方はClaude APIの闇流通と格安代替に関する記事でも触れています。
まとめ
安全装置の除去が、無償の技術から有料サービスに移りました。防御側の道具として正当化する主張と、被害の拡大を懸念する批判が並び立ち、業界内でも評価は割れています。オープンモデルの選定基準についてはオープンモデルのダウンロード動向をまとめた記事、モデル提供側の安全機構の運用実態についてはAnthropicのバイオフィルター停止に関する記事も参考にしてください。
参考文献
- TechCrunch｜Abliteration.ai is making a business out of removing AI guardrails
- Abliteration.ai 公式サイト
- The Wall Street Journal｜Unregulated Open-Weight AI Is an Invitation to Disaster
- 総務省｜AI事業者ガイドライン掲載ページ
※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/
引用元: TechCrunch
【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）
株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。
この記事を読んだ人は、こんな記事も読んでいます
