NVIDIA:Nemotron 3.5 Bolt 74B-A9B 今天上線,專為 RTX Spark 本地 agent;PAIR 正式出 beta
NVIDIA 宣布 Nemotron 3.5 Bolt 74B-A9B 於 10/15 釋出:74B MoE、每次啟用約 9B,以 2-bit 量化感知訓練壓進約 24GB,主打在即將開賣的 RTX Spark 筆電上跑本地 agent。啟動日即可在 llama.cpp、vLLM、Ollama、Unsloth、LM Studio 使用,並接入 Hermes、OpenClaw;權重、訓練資料與食譜全開源。同日個人 AI 路由器 PAIR 結束 beta,支援跨區網多機分攤推論、直接從 Hugging Face 下載模型。10/16 RTX Spark 筆電開賣;較小的 E4B 4GB 遊戲角色模型排 10/23。
專家解讀
這是今天本地端最該追的一則:74B 壓進 24GB 若真能在 RTX Spark 上穩定跑 agent,雲端 token 帳單會被重新定價。但 2-bit 品質全靠 NVIDIA 自評,社群用同一套工具基準打臉或坐實之前,先當「硬體開賣前的軟體秀」。PAIR 出 beta 有意思——多機分攤推論會讓家用/工作室開始組小叢集;若三個月內仍只有 demo 沒有穩定排程,就還是玩具。