Vercel AI Gateway、NVIDIAの「Nemotron 3.5 Lightning」を無料提供
VercelAI GatewayNVIDIAオープンウェイトLLM
Vercelは2026年10月14日、NVIDIAのオープンウェイトモデル「Nemotron 3.5 Lightning」をAI Gatewayで無料提供すると発表した。総パラメータ300億、トークンごとの活性は30億のハイブリッドMoE構成で、コンテキストは100万トークン。ツール呼び出しと構造化出力に対応する。
何が発表されたか
- Vercelは2026年10月14日、NVIDIAの「Nemotron 3.5 Lightning」をAI Gatewayで提供開始したと発表した。利用は無料で、モデルIDは
nvidia/nemotron-3.5-lightning-free。配信はNVIDIAが担う。 - オープンウェイトの推論・チャットモデルで、長時間動くエージェント、サブエージェント、チャットボット、RAGでの利用を想定している。
- 構成は総パラメータ300億、トークンあたりの活性パラメータ30億のハイブリッドMoE。Mamba-2層とMoE層を交互に並べ、少数のアテンション層を挟む。
- コンテキストウィンドウは100万トークン。ツール呼び出しと構造化出力に対応する。
- 利用方法はAI SDK、Chat Completions、Responses、Messages の各API、またはAI Gatewayに接続したコーディングエージェント。AI SDKでは
streamTextのmodelに上記のモデルIDを渡す。 - コーディングエージェントから使う場合は、最新のVercel CLIで
npx vercel ai-gateway setupを実行し、Claude Code、Codex、Cursorなどでモデルを選択する。 - 無料提供の終了日は記載されていない。提供元がモデル改善のためにプロンプトを保持する場合があるとされている。
開発者への影響
- 100万トークンのコンテキストを無料で試せるため、長い仕様書やログを丸ごと渡す処理の検証コストが下がる。
- 活性パラメータが30億と小さい構成のため、サブエージェントや分類・抽出といった数をこなす処理の受け皿として検討しやすい。
- プロンプトが提供元に保持される可能性があるとされているため、顧客データや未公開情報を扱う処理には向かない。検証用途と本番用途を分けて使い分けたい。
- 無料提供の期限が示されていないため、本番で依存する場合は有料モデルへの切り替え手段を確保しておく。