NVIDIAが軽量オープンモデル「Nemotron 3.5 Lightning」を公開
AIエージェントナビ編集部
画像の出典：NVIDIA
AIエージェントの実用化において、推論速度とコストの最適化は多くの企業が直面する大きな壁となっています。NVIDIAが現地時間2026年8月11日に発表した「NVIDIA Nemotron 3.5 Lightning」は、常時稼働するAIエージェントの実行層に特化することで、この課題に対する強力な解決策を提示しました。
本記事では、同モデルの技術的特徴と、企業がAIエージェントをシステムとして構築する際に不可欠となる「モデルルーティング」の重要性について解説します。
常時稼働エージェントに最適化された新モデルの全貌
30BパラメータのMoE構造による効率的な推論
NVIDIA Nemotron 3.5 Lightningは、30B（300億）パラメータという規模を持ちながら、Mixture-of-Experts（MoE：専門家混合）構造を採用することで、アクティブパラメータ数を3B（30億）に抑えています。これにより、モデル全体をメモリにロードしつつ、計算負荷を最小限に留めることが可能です。この設計は、ツール呼び出しや結果検証といった、エージェントが頻繁に行う高頻度タスクの処理において、高い精度と低遅延を両立させるために最適化されています。
推論最適化技術による最大4倍の出力速度
本モデルは学習時にMulti-token prediction（複数トークンの同時予測）を取り入れており、推論を高速化するSpeculative decoding（推測デコード）に対応します。さらに、幅広い提供環境で推論を最適化するための「DFlash」「DSpark」が同梱されています。NVIDIAはこれらにより、同規模のモデルと比べて最大4倍の出力速度が得られるとしています。ベンチマーク「PinchBench」では、同等の精度を保ちながら1万件のタスクをQwen3.6 35Bより30%速く完了したと説明されています。常時稼働するエージェントにとって、タスクの実行速度はユーザー体験や業務効率に直結する重要な指標です。Nemotron 3.5 Lightningは、この速度性能を武器に、リアルタイム性が求められるビジネスプロセスへの適用を加速させます。
エージェント実行層を支えるエコシステムと連携
OpenClawやHermes Agentへの対応
Nemotron 3.5 Lightningは、OpenClawやHermes Agentといったエージェント用ハーネス（実行環境）向けに設計されており、これらはNVIDIAのオープンソース基盤「NemoClaw」がサポートすると説明されています。また、重み・学習データ・レシピが「OpenMDW-1.1」ライセンスのもとで公開され、Hugging Face、build.nvidia.com、OpenRouter、ModelScopeから入手できます。企業は自社の業務特性に合わせてモデルを微調整（ファインチューニング）し、特定のタスクに特化させたエージェントを構築できます。
NeMo Switchyardによるモデルルーティング
今回の発表で特に注目すべきは、タスクに応じて最適なモデルを動的に選択する「NVIDIA NeMo Switchyard」の導入です。複雑な推論や計画立案が必要な場面では上位モデルを使い、単純な実行やツール操作にはNemotron 3.5 Lightningを割り当てるという「モデルのシステム化」が容易になります。このルーティング機能により、企業は計算リソースの消費を抑えつつ、エージェント全体の知能と速度を最適化するアーキテクチャを構築できるようになります。
企業が目指すべきAIエージェントのシステム設計
コストと精度のバランス最適化
AIエージェントの構築において、すべての処理を巨大な高性能モデルに依存することは、コスト面で現実的ではありません。Nemotron 3.5 Lightningのような高速・軽量モデルを「実行層」に配置し、上位モデルを「司令塔」として活用する階層構造は、今後のエージェント開発における標準的なアプローチとなるでしょう。DX担当者は、自社の業務フローを分析し、どのプロセスにどの程度の推論能力が必要かを定義することが求められます。
オープンモデル活用による内製化の加速
今回のオープンリリースは、企業がAI技術を自社のコントロール下で運用する「内製化」を後押しするものです。特定のクラウドベンダーのAPIに依存しすぎることなく、自社環境で最適化されたモデルを運用することで、セキュリティやプライバシーの要件を満たしながら、競争優位性を生むAIエージェントを構築することが可能になります。NVIDIAの提供するエコシステムは、そのための強力な基盤となるはずです。
まとめ
- 30BのMoE構造とアクティブパラメータ3Bにより、高速かつ効率的な推論を実現。
- 推論最適化により、同規模のモデル比で最大4倍の出力速度。PinchBenchではQwen3.6 35Bより30%速い。
- NeMo Switchyardにより、タスクに応じたモデルルーティングが可能に。
- オープンリリースにより、自社業務に合わせたカスタマイズが容易。
今後は、単一のモデルで全てを解決するのではなく、用途に応じてモデルを使い分ける「モデルのシステム化」がエージェント開発の主流となります。まずは、自社で運用中のエージェントにおいて、どの処理がボトルネックになっているかを特定し、軽量モデルへの置き換えを検討することから始めてみてください。
💡 編集部の見解
AIエージェントの構築は「単一モデルの高性能化」から「モデルのシステム化」へとフェーズが移行しました。
- 実行層の軽量化：常時稼働するエージェントにおいて、推論速度とコストの最適化が不可欠であるという市場の要求に応える技術です。
- 階層型アーキテクチャ：司令塔となる上位モデルと実行を担う軽量モデルを使い分けるルーティング技術が、実用的なエージェント構築の鍵となります。
今後は自社の業務フローを細分化し、どのプロセスにどの程度の推論能力が必要かを定義するアーキテクチャ設計能力が問われそうです。
