NVIDIA Nemotron 3.5公開｜EC業務AI4倍速化の3論点

齋藤竹紘2026年8月12日2026年8月12日AIニュース

NVIDIA が毎秒約670トークンの小型AIをオープン公開しました。

The Decoder が2026年8月11日に伝えたところによると、NVIDIA は同日、オープンウェイトの小型モデル「Nemotron 3.5 Lightning」を公開しました。賢さで頂点を取りにいくのではなく、AIエージェントが延々と繰り返す「実行」の工程を速く安く回すことに振り切った設計です。EC業務のAI化でコストと待ち時間に詰まっている事業者にとって、モデルの選び方そのものを変える発表だと受け止めています。本記事は、EC支援19年・5,000社超の実績を持ち、AI導入支援は2023年から提供する株式会社オルセル（うるチカラ運営）が解説します。

何が起きたか：31.6Bのうち実際に動くのは3.6B

Nemotron 3.5 Lightning とは、NVIDIA が2026年8月11日に公開した、実行処理に特化したオープンウェイトの小型AIモデルのことです。総パラメータは316億（31.6B）ありますが、1トークンごとに実際に計算するのは36億（3.6B）ぶんだけという混合エキスパート（MoE）構成を採っています。大きいモデルの引き出しを持ちながら、動くときは小さいモデル並みの計算量で済むという考え方です。

数字で見ると性格がはっきりします。独立系の評価機関である Artificial Analysis の知能指数では24点で、これは OpenAI のオープンモデル gpt-oss-120b と同点、前世代の Nemotron 3 Nano（15点）から9点の上積みです。一方で、同じサイズ帯の Qwen3.6 35B A3B は32点、Meta の Muse Glimmer は35点なので、賢さの序列では上位ではありません。

かわりに突出しているのが速度です。出力は毎秒669トークンに達し、比較対象のなかで最も速く、Google の Gemini 3.5 Flash-Lite（毎秒386トークン）のおよそ1.9倍にあたります。1タスクあたりの所要時間は約0.5分で、Qwen3.6 35B A3B の約3.5分、Gemma 4 31B の約5.8分と比べると体感差は小さくありません。NVIDIA 自身も、同等サイズのモデルに対して出力速度が最大4倍になると説明しています。

エージェント用途のベンチマークでの伸びも目を引きます。GDPval-AA v2 では Elo 824点で、前世代から334点の上昇。gpt-oss-120b（800点）と、4倍近く大きい Nemotron 3 Super（698点）を上回りました。Terminal-Bench v2.1 も7％から24.3％へ改善しています。ライセンスは寛容な OpenMDW-1.1 で、重みだけでなく学習データとレシピも公開されています。

日本のEC事業者にとっての3つの論点

論点の中心は「賢いモデル1本で全部やる」構成をやめられるかどうかです。NVIDIA は、計画と判断は上位モデル、実行は Lightning のような小型モデルに振り分ける「モデルの分業」を提案し、そのためのルーティング基盤 NeMo Switchyard も同時に公開しました。同社の研究者は以前から、100億パラメータ未満のモデルでもエージェント業務の大半は700億〜1,750億規模と同等にこなせ、コストは10分の1から30分の1で済むと主張しており、今回はその主張に製品を伴わせた形です。

第一の論点は、EC業務のどこが「実行」なのかを棚卸しできているかです。数千SKUぶんの商品説明文の下書き、レビューのタグ付けと要約、問い合わせの一次分類、CSVのカテゴリ正規化、競合価格の巡回といった作業は、判断より反復が主体です。ここに毎回フラッグシップモデルを当てているなら、単価と待ち時間の両方で損をしている可能性があります。1タスク3.5分が0.5分になる差は、1万件を回すバッチ処理では実務上の意味が変わります。PinchBench では精度86％を保ったまま、1万タスクの完了が同等精度のモデルより30％速いという結果も示されました。

第二の論点は、日本語での実力が未知数だという点です。今回公表されている知能指数やエージェント系ベンチマークは日本語の商品文脈を測ったものではありません。日本語の商品説明生成や敬語を含む問い合わせ応答でどこまで使えるかは、自社データでの検証が要るという意味で要確認です。楽天市場やAmazonの商品ページに載せる文章では、速さよりも表記ゆれの少なさと薬機法まわりの安全性が優先されるため、下書き生成に限定して人の確認を挟む運用から始めるのが現実的です。

第三の論点は、置き場所の選択肢が一気に増えたことです。テキスト専用で文脈長は100万トークン、NVFP4とBF16の両方の重みが配布され、DGX Spark やGeForce RTX 5090といった手元の機材でも動きます。Ollama や LM Studio、llama.cpp からも扱え、Hugging Face から重みを取得できます。試すだけなら OpenRouter に無料の提供枠があり、DeepInfra や Fireworks、CoreWeave、Nebius などのサーバーレス推論でも利用できます。ただし無料枠の条件と継続性、国内リージョンでの提供状況は要確認です。顧客の個人情報を含む処理を社外APIに出せない事業者にとっては、手元で動かせること自体が導入の分かれ目になります。

今後の展望と、今週やれる初動

短期的には、モデル1本を選ぶ発想から、業務ごとにモデルを割り当てる発想へ移る動きが進むとみています。専有モデルの優位はまだ明確で、Gemini 3.5 Flash-Lite は同程度の所要時間で知能指数37点、GPT-5.6 Luna は2分未満で52点に届いています。賢さが要る工程まで小型モデルに落とすと品質事故につながるので、分業の線引きこそが腕の見せどころになります。

初動としては、まず自社のAI利用ログを1週間ぶん眺めて、呼び出し回数の多い上位3業務を洗い出すことをおすすめします。次に、そのうち「判断がほぼ不要で反復が多い」ものを1つ選び、OpenRouterの無料枠で Nemotron 3.5 Lightning に同じ入力を投げて、日本語出力の質と所要時間を現行モデルと並べて記録します。三つめに、品質が許容できるなら実行系だけ差し替え、月間のトークン費用と処理完了までの時間を before / after で比較します。

エージェントに実務を任せる範囲が広がるほど、権限設計の重みも増します。あわせてAIエージェントの権限設計や、エージェントが予約APIの認可不備を突いた事例も確認しておくと、速度と安全性を同時に設計しやすくなります。手元で動く小型モデルという流れ自体は、Meta の Muse Glimmerや中国勢の価格攻勢とも地続きです。

まとめ

Nemotron 3.5 Lightning は、賢さの頂点ではなく毎秒669トークンという速度と、公開された重み・データ・レシピで勝負するモデルです。日本のEC事業者がとるべきスタンスは、全業務を一斉に乗り換えることではなく、反復が主体の実行工程を1つ切り出して日本語で検証し、費用と時間の差を数字で確かめることだと考えます。分業の線引きが決まれば、AI活用の単価は下げやすくなります。

参考文献

※うるチカラでは、生成AIの導入支援から運用最適化まで、貴社のEC事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://uruchikara.jp/contact/

引用元: The Decoder

【監修】齋藤竹紘（株式会社オルセル代表 / 19年・5,000社のEC支援実績）

齋藤竹紘

株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。

投稿者: 齋藤竹紘

株式会社オルセル代表取締役 / うるチカラ編集長。19年・5,000社以上のEC支援実績を持ち、楽天市場・Amazon・Yahoo!ショッピング・Shopify・Shopee越境ECの実装ノウハウを保有。AI×ECに関する書籍を3冊執筆。「現場で使えるAI実装」を一次情報として発信しています。齋藤竹紘のすべての投稿を表示