NVIDIAが、約4GBのメモリで動く会話向けの小型言語モデル「Nemotron 3.5 Bolt E4B 4GB」を公開しました。データを外に出さず端末内で動く音声アシスタントなどを試せます。ただし開発者向けで、日本語での実力は自社で確かめる必要があります。
この記事は、NVIDIAが2026年10月23日に公開した公式発表をもとに、2026年10月25日時点の情報で書いています。
何が発表されたか
- 位置づけ：公開された「オープンな小型言語モデル」です。速度と、メモリ1GBあたりの賢さを重視した、会話エージェント向けとされています。
- ベース：Gemma 4 E4BにNemotronの追加学習（ポストトレーニング）を施したモデルです。
- 動作環境：NVIDIA GeForce RTX、Jetson、RTX Spark、DGX Sparkでの動作を想定しています。対象の用途で約4GBのメモリに収まる設計です。
- 主な機能：複数ターンにわたるツール利用（アプリのAPIを呼び出して作業を進める機能）、簡潔で音声向きの応答に切り替える会話モード、推論（考える処理）のオン・オフ、64kのコンテキスト長に対応します。
- 言語：35言語に対応します。ベースモデルは140以上の言語で事前学習されています。日本語が35言語に含まれるかは、このページでは確認できません。
- 性能（NVIDIA自社の測定）：前モデルのNano 4Bより、主要な会話エージェント系ベンチマークの平均品質が約40%高いとしています。他モデルと比べた出力トークン数は最大約80%少ないとしています。
料金は発表されていません。ダウンロード先として、Hugging Face、Ollama、LM Studio、Unsloth、Canonical、Jetson AI Lab、NVIDIA In-Game Inferencing SDKが挙げられています。
実測値の例（Q4_K_M、バッチサイズ1、llama.cpp使用）は次のとおりです。条件は「入力3K／出力50トークン、キャッシュなし」です。
日本の企業・学校でどう使えるか
ここからはTERRAISEの意見です。
業務・授業での使いどころ
- 製造・設備部門の音声問い合わせ（例）：入力は作業者の声（文字起こし後のテキスト）です。処理は、モデルが会話しながら手順検索などのAPIを呼び出すことです。出力は、短い音声向きの回答です。公式発表も、産業機器の操作画面やIoTを用途に挙げています。
- 社内ヘルプデスク・窓口の試作：入力は社内規程などの質問です。処理は、モデルが検索ツールを呼び出して該当箇所を探すことです。出力は、根拠を添えた短い回答です。外部に情報を送らない構成を検討する第一歩になります。
- 学校の情報・探究の授業：入力は、生徒が決めた「ロボットの役割」と使えるツールです。処理は、ローカルのモデルがツールを呼び出して動くことです。出力は、会話と動作の流れです。クラウドの契約なしでAIエージェントの仕組みを体験する教材が考えられます。
始め方
- DX担当・ICT担当が、公式ページとモデルカードで対応ハードウェアと利用条件（ライセンス）を確認します。
- RTX搭載のPCがあれば、OllamaやLM Studioなど公式が挙げる配布先から、小規模に試します。
- 自社の実際の質問を20問ほど用意し、日本語で自然に答えられるかを確かめます。
- 社内システムの検索など、安全に呼び出せるツールを1つだけ用意し、ツール呼び出しの精度を見ます。
- 結果をもとに、既存のクラウドAIと使い分けるかを判断します。
注意点
- 日本語は要検証：35言語に日本語が含まれるか、このページには書かれていません。必ず自社の文章で試してください。
- ベンチマークは得意・不得意がある：NVIDIAの比較表では、Tau2-Benchで比較対象のQwen 3.5 4B（75.1）がBolt E4B（55.1）を上回っています。BFCL-v3でもQwen 3.5 4B（70.9）が上でした（Bolt E4Bは68.5）。用途に合うかは実機で確かめる必要があります。
- 端末で速度が大きく違う：入力3K／出力50トークンの条件で、最初の応答までの時間（TTFT）はRTX 5070が548ms、Jetson Orin Nano（8GB）が5,785msでした。
- メモリは余裕を見る：公式の実測では、使用VRAMは3.1〜5.0GBの範囲でした。約4GBは目安として考えてください。
- 情報の扱い：ローカルで動かしても、個人情報や機密データの入力ルールは社内で決めておきます。商用利用の条件は、このページでは確認できません。
TERRAISEに相談する
ローカルで動く小型モデルは、「どの業務に、どの端末で、どこまで任せるか」を決めてこそ役に立ちます。TERRAISEでは、60分の無料相談で、自社・自校の業務への当てはめ方を一緒に整理できます。情報を外に出せない場合の進め方はローカルLLM導入、学校での活用は教育機関向けAI教育をご覧ください。
出典（2026年10月25日 06:27 確認）
- NVIDIA「NVIDIA Nemotron 3.5 Bolt E4B 4GB」
製品名・機能・提供範囲・料金は変わることがあります。導入前に必ず公式情報をご確認ください。
Supervised by — 監修
株式会社TERRAISE 代表取締役CEO 舟橋 遼亮2025年2月に株式会社TERRAISEを創業。お茶の水女子大学 外部講師、Google AI Student Ambassador（2025年）を務める。上場企業や全国の高校などで、AIの活用を実際に指導している。