NVIDIA 揭曉 Nemotron 3:革命性開放模型系列驅動下一代代理式AI開發

新聞摘要
NVIDIA 推出了 Nemotron 3 系列開放模型,這代表著代理式 AI(agentic AI)開發的一大進步。這個三層級的模型系列——Nano、Super 和 Ultra——採用了突破性的混合專家混合(hybrid mixture-of-experts)架構,旨在解決開發者在組織從單一模型聊天機器人轉向複雜的多代理 AI 系統時面臨的日益嚴峻的挑戰。
此公告於 2025 年 12 月 15 日發布,標誌著 NVIDIA 對人工智能開放創新的承諾。執行長黃仁勳強調,Nemotron 將先進 AI 轉化為開放平台,為開發者提供大規模構建代理式系統所需的透明度和效率。
開創性架構推動新效率標準
Nemotron 3 系列採用創新的混合潛在專家混合(hybrid latent mixture-of-experts)架構,從根本上重新構想了 AI 模型處理複雜、多步驟任務的方式。這種架構方法允許模型僅激活特定任務所需的參數,從而顯著提高計算效率,同時保持或超越準確性基準。
NVIDIA 的工程團隊通過此設計實現了卓越的性能提升。Nano 模型雖然是該系列中最小的,但其吞吐量提升幅度超過了其前代產品的四倍。這意味著部署多代理系統的企業可以節省實際成本,推理代幣生成成本降低高達 60%。
混合架構結合了 Transformer 技術和選擇性參數激活,使模型能夠有效地擴展以適應不同的工作負載需求。這種靈活性使開發者能夠精確匹配模型的大小和功能以滿足其應用需求,從輕量級助手任務到複雜的戰略規劃工作流程。
三層級方法滿足多元企業需求
Nemotron 3 Nano:規模化效率
Nemotron 3 Nano 現已上市,在開放模型領域樹立了計算成本效率的新標竿。該模型擁有 300 億個總參數,每次僅激活 30 億個,非常適合用於軟體調試、內容摘要、AI 助手工作流程和信息檢索等特定應用。
獨立 AI 基準測試組織 Artificial Analysis 將 Nemotron 3 Nano 評為其尺寸級別中最開放、最高效的模型。該模型支持令人印象深刻的 100 萬個代幣上下文窗口,使其能夠在長時間的多步驟推理任務中保持連貫性和準確性——這對於需要持續上下文理解的代理式應用至關重要。
Nano 提供的吞吐量提升對於運營多代理系統的組織尤為重要,因為代幣生成速度直接影響用戶體驗和運營成本。早期測試表明,該模型能夠處理大量並發請求,而響應質量不會下降。
Nemotron 3 Super:協同智能
Nemotron 3 Super 預計於 2026 年上半年發布,針對需要大量協同代理以最低延遲運行的應用。Super 模型擁有約 1000 億個參數,每個代幣激活 100 億個,針對 IT 工單自動化、客戶服務協調和複雜工作流程管理等場景進行了優化。
該模型採用 NVIDIA 在 Blackwell 架構上的超高效 4 位 NVFP4 訓練格式,顯著降低了內存需求,同時保持了與更高精度格式相當的準確性。這種效率的突破使組織能夠在現有基礎設施上部署更大的模型,而無需昂貴的升級。
Nemotron 3 Ultra:高級推理引擎
作為該系列旗艦模型,Nemotron 3 Ultra 擁有約 5000 億個參數,每個代幣最多激活 500 億個。Ultra 模型也計劃於 2026 年上半年上市,它將作為一個複雜的推理引擎,為需要深度研究能力和戰略規劃支持的 AI 工作流程提供服務。
Ultra 的設計支持複雜的決策場景,在這些場景中,徹底性和分析深度比響應速度更重要。該模型的架構使其能夠處理大量的資訊集,識別不同數據源之間的模式,並生成全面的分析輸出。
全面的生態系統支持快速開發
NVIDIA 的發布遠不止模型本身,還包含了一個完整的開發生態系統,旨在加速專用 AI 代理的創建。該公司發布了涵蓋預訓練、後訓練和強化學習數據集的 3 萬億個代幣的訓練數據——這是開發者社區前所未有的資源。
這些數據集為創建具有針對特定行業需求量身定制功能的領域專用代理奠定了基礎。這些數據集包含豐富的推理模式、編碼工作流程和多步驟任務執行策略示例,開發者可以利用這些示例來訓練與其獨特用例相符的模型。
Nemotron Agentic Safety Dataset 通過提供真實世界的遙測數據來評估和加強代理系統的安全性,解決了 AI 開發中的一個關鍵差距。隨著組織部署越來越自主的 AI 系統,強大的安全評估框架對於維持信任和監管合規性變得至關重要。
NVIDIA 還發布了 NeMo Gym 和 NeMo RL,這些開源庫提供了專為強化學習工作流程設計的訓練環境和後訓練基礎設施。這些工具與用於安全性和性能驗證的 NeMo Evaluator 相結合,創建了一個集成開發環境,顯著降低了構建生產級代理系統的複雜性。
行業採用標誌著市場信心
來自各行各業的主要企業已經開始將 Nemotron 模型整合到其運營中。Accenture、Deloitte 和 EY 正在探索在專業服務領域的應用,而 Oracle Cloud Infrastructure、ServiceNow 和 Zoom 等技術領導者則將這些模型整合到他們的平台中。
ServiceNow 執行長 Bill McDermott 強調了該合作夥伴關係在定義代理式 AI 實施新標準方面的潛力。ServiceNow 的智能工作流程自動化與 Nemotron 3 的能力相結合,為企業運營帶來了前所未有的效率和準確性機會。
AI 驅動的搜索和研究領導者 Perplexity 宣布計劃使用一個代理路由器架構,該架構將工作負載在 Nemotron 3 Ultra(用於專門任務)和專有模型(在這些模型具有獨特優勢時)之間進行路由。這種混合方法優化了性能、成本和專用功能之間的平衡。
初創公司生態系統也正在將 Nemotron 3 作為創新的基礎。General Catalyst、Mayfield 和 Sierra Ventures 的投資組合公司正在探索這些模型的應用,以構建支持跨領域人機協作的 AI 隊友。
主權 AI 和全球部署策略
Nemotron 3 支持 NVIDIA 更廣泛的主權 AI 計劃,使各國和地區能夠開發符合當地數據治理要求、監管框架和文化價值觀的 AI 系統。歐洲和韓國的組織正在採用開放、透明的模型來構建保持數據主權的 AI 基礎設施,同時利用最先進的功能。
這種方法解決了日益增長的全球對 AI 治理和數據隱私的擔憂。通過提供組織可以在其自身基礎設施內部署的完全開放的模型,NVIDIA 使各實體能夠在受益於最先進模型架構和訓練方法的同時,完全控制其 AI 系統。
主權 AI 戰略也支持經濟發展計劃,使地區能夠建立國內 AI 能力,而不是完全依賴外國雲服務。這種 AI 開發和部署的本地化為地區創新生態系統的蓬勃發展創造了機會。
可訪問的部署選項加速採用
NVIDIA 通過與領先的推理服務提供商合作,確保了 Nemotron 3 Nano 的廣泛可訪問性。該模型可通過 Baseten、DeepInfra、Fireworks、FriendliAI、OpenRouter 和 Together AI 立即獲得,為開發者提供了適合不同運營需求和預算限制的多種部署選項。
Couchbase、DataRobot、H2O.ai、JFrog、Lambda 和 UiPath 等企業級 AI 和數據基礎設施平台已集成對 Nemotron 模型的支持。這種廣泛的平台採用減少了集成摩擦,使組織能夠以最小的干擾將模型整合到現有工作流程中。
公共雲可用性進一步擴大了模型的覆蓋範圍。AWS 將通過 Amazon Bedrock 的無服務器基礎設施提供 Nemotron 3 Nano,而 Google Cloud、CoreWeave、Crusoe、Microsoft Foundry 和其他主要雲提供商將在其平台上支持該模型。這種多雲戰略確保組織可以在其首選雲環境中部署 Nemotron 模型。
對於需要最大程度控制和隱私的企業,NVIDIA 將 Nemotron 3 Nano 作為 NVIDIA NIM 微服務提供。這種打包方式可在 NVIDIA 加速基礎設施上實現安全、可擴展的部署,無論是在本地還是在私有雲環境中,確保敏感工作負載保留在組織邊界內。
技術創新推動性能領先
Nemotron 3 性能背後的技術創新不僅限於頭條新聞中的架構特徵。NVIDIA 的工程團隊採用了先進的強化學習技術,並進行了大規模的並發多環境後訓練——這種方法在訓練過程中將模型暴露於各種場景,提高了其在不同實際應用中的泛化能力。
Super 和 Ultra 模型中的多代幣預測功能提高了長文本生成的效率,同時改善了整體模型質量。此功能使模型能夠在生成過程中提前規劃,為延長響應生成更連貫、更符合上下文的輸出。
4 位 NVFP4 訓練格式代表了訓練效率的重大進步。通過在不犧牲模型準確性的情況下降低數值精度要求,NVIDIA 使得在現有硬件配置上訓練更大的模型成為可能。這通過降低模型開發的基礎設施要求,實現了對前沿模型功能的民主化訪問。
推理時的精細推理預算控制為開發者提供了對模型行為的細粒度控制。此功能允許動態調整分配給不同查詢的計算資源,根據具體應用需求優化響應質量和推理成本之間的平衡。
開源承諾加強開發者生態系統
NVIDIA 決定在開放許可下發布全面的訓練數據、模型權重和開發工具,這反映了其通過社區協作促進創新的戰略承諾。該公司不僅提供了最終訓練好的模型,還提供了基礎模型和訓練配方,使研究人員和開發者能夠理解並在此基礎上進行構建。
發布內容包括 FP8 量化和 BF16 精確格式的 Nemotron 3 Nano,以及基礎預訓練模型。這種透明度支持可複現性,並允許研究社區驗證 NVIDIA 的聲明,同時探索替代訓練方法和模型變體。
LM Studio、llama.cpp、SGLang 和 vLLM 等工具的集成支持確保開發者能夠將 Nemotron 模型整合到他們現有的開發工作流程中,而無需採用全新的工具鏈。Prime Intellect 和 Unsloth 將 NeMo Gym 的訓練環境直接整合到他們的平台中,進一步降低了高級強化學習實驗的門檻。
未來展望和行業影響
Nemotron 3 的發布標誌著開放模型格局的成熟,表明透明度和商業級性能並非相互排斥。隨著組織越來越認識到 AI 能力的戰略重要性,部署、定制和控制模型的能力成為關鍵的競爭因素。
Super 和 Ultra 模型計劃於 2026 年發布,將完成 Nemotron 3 系列,為企業提供涵蓋全部能力和效率需求的選項。這種分層方法使組織能夠實施混合部署策略,在優化成本的同時,在最關鍵的地方保持性能。
NVIDIA 的集成生態系統方法——將模型、數據和工具結合成一個統一的包——為開放模型發布樹立了新的標準。該公司不僅發布模型權重,還提供了成功部署和定制所需的完整基礎設施。
對代理式 AI 能力的重視將 Nemotron 3 置於 AI 應用架構新範式轉變的前沿。隨著單一模型聊天機器人被協同多代理系統取代,專為此用例設計的模型很可能在企業部署中獲得顯著的吸引力。
行業分析師預計,Nemotron 3 的開放性將加速專用 AI 應用領域的創新,尤其是在數據隱私、監管合規性或獨特的行業要求使得專有雲模型不切實際的領域。領先的功能與完全透明度的結合,為以前只有通過廣泛的內部 AI 開發團隊才能實現的定制和領域適應創造了機會。