Qwen 3.8 27Bは17GBでノートPC稼働|EC自社運用3論点

Qwen 3.8 27Bは17GBでノートPCでも動く公開LLMです。画像認識とコード生成の実力、毎秒15から30トークンという速度制約、EC事業者が自社運用を検討する際の3つの論点を整理します。

投稿日: カテゴリー AIニュース

Qwen 3.8 27Bとは、17GBでノートPCでも動く公開LLMです。

アリババのQwen研究チームが2026年8月14日に公開した Qwen 3.8 27B は、Apache 2ライセンスの270億パラメータモデルでありながら、量子化すればわずか17GBのファイルに収まります。画像認識、ツール呼び出し、コード生成のすべてを1台のノートPCで完結できる水準に達しており、顧客データを外部APIに送らずにAIを使いたいEC事業者にとって、現実的な選択肢が一段近づいた形です。本記事は、EC支援19年・5,000社超の実績を持ち、AI導入支援は2023年から提供する株式会社オルセル(うるチカラ運営)が解説します。ただし後述するとおり、速度という無視できない制約も同時に見えてきました。

Qwen 3.8 27Bが写真の中のペリカン2羽に正確なバウンディングボックスを描いた検証結果

何が起きたか:17GBの公開モデルが実務レベルに届いた

結論から言えば、手元のPCで動くモデルの実力が、1年前の最上位クラスの商用モデルに並びつつあります。開発者の Simon Willison は、128GBメモリのMacBook Proと NVIDIA DGX Spark の2台でこのモデルを検証し、「17GBのファイルがこれだけのことをこなす事実は奇跡だ」と評しています。

検証内容は具体的です。写真に写ったペリカン2羽の位置を0から1000のスケールでJSON出力させる画像認識タスクでは、ほぼ正確な座標を返しました。さらにコーディングエージェント経由で自作ツールのソースコードを読ませ、認証の仕組みを説明させた結果も妥当なものだったと報告しています。長い文脈の保持、ツール呼び出し、コード生成という3条件を、オフラインで満たせたということです。

一方で最大の弱点は速度でした。生成速度はおよそ毎秒15から30トークンにとどまり、Artificial Analysisが公表する トークン速度の比較 ではOpenAIの5.6 Solが毎秒74トークン、5.6 Lunaが毎秒184トークンとされています。体感で2倍から6倍以上の差があることになります。

EC事業者にとっての論点:速度との取引が発生する

日本のEC事業者がこのニュースから読み取るべき論点は3つあります。

1つ目は、顧客データの取り扱いです。受注情報、問い合わせ履歴、仕入原価といったデータをクラウドのAPIに送信することに抵抗があり、AI活用を見送ってきた事業者は少なくありません。ローカルで動くモデルであれば、データが自社の外に出ません。楽天RMSやAmazonセラーセントラルからダウンロードしたCSVをそのまま食わせて集計や要約をさせる、といった使い方が現実的になります。

2つ目は、画像処理の内製化です。今回の検証で示されたバウンディングボックスの精度は、商品写真から被写体の位置を特定する処理に転用できます。商品画像の一括リサイズ時に主役が切れていないかを機械的に確認する、モール規定に沿ってメイン画像に写り込んだ余計な要素を検出する、といった運用が考えられます。ただし実運用への適用可否は自社の画像パターンで検証が必要です。

3つ目は、速度と引き換えの判断です。毎秒15から30トークンという速度は、接客チャットのようなリアルタイム応答には不向きです。逆に、夜間に商品説明文を100件まとめて生成する、月末にレビューを一括で分類するといった非同期のバッチ処理であれば、遅さは業務上ほとんど問題になりません。用途を切り分けられるかが導入可否を分けます。モデルの選び方については オープンモデルの利用動向Qwen 3.8 Maxの精度検証 もあわせてご確認ください。

今後の動きと、検証を始めるときの初動

速度の問題は、数週間単位で改善が進む可能性があります。Qwen 3.8はMulti-Token Predictionという、軽い仕組みで数トークン先を推測し本体が正しさを検証する高速化手法に対応しており、llama.cppでこの設定を有効にした比較では、LM Studioの標準構成に対しておよそ72パーセントの性能向上が確認されています。

検証を始めるなら、まず既存業務のうち即時性を求められない処理を1つ選ぶことをおすすめします。次に、その処理を現行のクラウドAPIで回したときの月額コストと所要時間を記録しておきます。最後に同じ処理をローカルで回し、品質と時間を突き合わせます。この比較なしに「情報漏洩が怖いからローカル」と決めると、遅さのコストを見誤ります。なお公開モデルの安全性については オープンウェイトモデルの安全性ギャップ で整理しています。

もう1点、実務上の注意があります。Qwen 3.8 27Bは推論の深さの初期設定が最も深いxhighになっており、そのままだと「円のSVGを描いて」という単純な指示にも数分かけて過剰な作品を返してきます。Willisonの検証では、ペリカンのSVG生成に21分と22,276トークンの推論を費やした例が報告されています。最初はlowか推論オフから試すのが実用的です。

まとめ

Qwen 3.8 27Bが示したのは、17GBのファイルで画像認識とコード生成とツール利用が成立するという事実です。EC事業者にとっては、顧客データを外に出さずにAIを使う道が現実味を帯びた一方、毎秒15から30トークンという速度制約は残ります。リアルタイム接客はクラウド、夜間バッチはローカルという使い分けから検証を始めるのが妥当です。

参考文献

※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談(30分)も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/

引用元: Simon Willison’s Weblog


【監修】齋藤竹紘(株式会社オルセル代表 / 19年・5,000社のEC支援実績)


投稿者: 齋藤竹紘

株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。

お問い合わせ