Nemotron 3.5 Bolt 開權重：74B／9B 激活塞進 24GB；官方沒給分數，2-bit 品質要自己測

24GB 同時是兩件事：ASUS ProArt P14 入門款的統一記憶體，以及 NVIDIA 替 Nemotron 3.5 Bolt 74B-A9B 寫進型號尾碼的那個數字。權重按官方時程今天該能下載；搭載同一顆超級晶片的筆電明天才開賣。中間這一天，賣的不是雲端價目表，是一張還沒被外人跑完的記憶體收據。

官方部落格把型號寫死成 Nemotron 3.5 Bolt 74B-A9B 24GB。這是一顆為 RTX Spark 上的本地智能體打造的大型語言模型：總參數 740 億，每個 token 大約只激活 90 億，架構是混合專家模型。要把整包權重塞進約 24GB，公司用了 2-bit 量化，並說在訓練過程做了量化感知訓練，品質會接近全精度。速度與智力的對照句沒有表、沒有對手名字、沒有獨立評測頁：比多數熱門稠密模型快，比多數同記憶體佔用的 MoE 更聰明。這句話目前只能當廠商自述。

權重、訓練資料、訓練配方承諾全部公開，發布時可走 llama.cpp、vLLM、Ollama、Unsloth 與 LM Studio，也能直接掛進 Hermes 與 OpenClaw。同一篇軟體長文還把 NVIDIA PAIR 拉出測試版、把 Microsoft Execution Containers（MXC）寫進開機設定、把 Switchyard 的本地／雲端分流當成省 token 的預設路徑。硬體側，NVIDIA 與微軟上週已宣布 RTX Spark 筆電週五開賣：Grace CPU 最多 20 核、Blackwell GPU 最多 6,144 個 CUDA 核心，統一記憶體最高 128GB，官方標到 1 petaFLOP 的 AI 算力。ASUS 美國站把 ProArt P14 入門寫成 2,599.99 美元、24GB／512GB；P16 入門 2,799.99 美元。PC Guide 同期整理的其他品牌起步價從 Surface Laptop Ultra 的 2,599 美元排到 Dell XPS 16 的 3,799 美元。

到截稿為止，Hugging Face 上能穩定打開、帶完整模型卡的，仍是八月那顆 Nemotron 3.5 Lightning 30B-A3B，不是 Bolt 74B。官方沒有公布 Bolt 的上下文窗口、每百萬 token 雲端單價（這顆本來就不是要賣 API）、獨立智力指數，也沒有把授權全文貼在部落格裡。八月 Lightning 用的是 OpenMDW 1.1；Bolt 會不會沿用同一份，要等檔案落地才能對。

數字先對表，行銷句先放旁邊

能核對的規格，來自 NVIDIA 英文與中文官方部落格同一稿，以及 TechTimes、alfw.ai、Magica、HIMIAO 對同一份稿的拆表。獨立實驗室還沒交出 Bolt 的速度或正確率。

740 億參數 × 2 bit，理論上權重大約 18.5GB。官方寫進型號的是 24GB，中間那幾 GB 會被對齊、執行期結構、路由表和實作開銷吃掉。更關鍵的是：KV 快取、代理程式本身、瀏覽器與編輯器不會跟權重共用同一張「24GB 剛好塞得下」的收據。alfw.ai 把這點寫得很乾——實際佔用還取決於上下文長度、執行引擎和旁邊同時開著的代理軟體。入門款 24GB 筆電若把 Bolt 當常駐行程，長上下文或工具呼叫一堆，記憶體牆會比參數牆先出現。

Lightning 不是 Bolt 的預覽版分數。八月那顆開源權重模型的 PinchBench 與「比 Qwen3.6 35B 快 30%」是 NVIDIA 自己的執行層數據，當時那篇已經寫過。把它們直接貼到 Bolt 頭上，等於用 3B 激活、另一套量化配方的舊帳，證明一顆 9B 激活、2-bit 新檔的品質。官方這次沒有做這件事；轉述也不該代做。

硬體明天才交貨，24GB 卻已經在價目表上

RTX Spark 不是一張外接顯示卡。NVIDIA 把它寫成超級晶片：Grace CPU 與 Blackwell GPU 用晶片對晶片的 NVLink-C2C 互連。TechTimes 轉述的頻寬對照是 C2C 約 900 GB／s，PCIe Gen 5 x16 約 64 GB／s。CPU 與 GPU 讀同一池 LPDDR5X，資料不用先抄過那條比較窄的匯流排，這才讓「最高 128GB 統一記憶體」在筆電殼子裡說得通。官方列出兩檔運算組態：20 核 CPU／6,144 CUDA 核心，筆電與小型桌機都有；18 核／5,120 CUDA 核心只給筆電。平台跑 Windows on Arm，晶片與聯發科合作製造。

價目表不是 NVIDIA 官方統一標價，是各 OEM 自己掛的入門 SKU。能核到的美國起步價大致如下。

ASUS 新聞稿另寫：24／32／36／48GB 會走 eShop 與 Best Buy；64GB 與 128GB 高容量主要走 eShop 與 Best Buy，128GB 也會出現在 Micro Center。ProArt GR1X 迷你主機較高容量檔要更晚才出。換句話說，今天能用「跟 Bolt 同一組 24GB」買到的機器，正好是最沒有餘量的那一檔。要把權重、KV 快取和代理常駐同時塞進去，採購上更該對的是 48GB 以上，而不是入門價那一行。

NVIDIA 自己也沒把「取代雲端訂閱」寫成保證。部落格承認很多人要的是兩邊都要：本地模型免費反覆試，難題再丟前沿雲端。Switchyard 被放進同一套話術，正是因為 24GB 本地檔解不了所有題。

模型旁邊同時出貨的控制平面

模型只是中間那一塊。同一週軟體更新把三層控制平面攤開：誰在哪台機器上跑、哪一題該留在本地、代理碰得到哪些檔案。

PAIR 離開測試版。官方定位是免費開源的個人 AI 路由器：在區網裡自動發現相容電腦，安裝模型與推理引擎，把工作分到有空的機器。正式版加上 llama.cpp、從 Hugging Face 直接下載、可改推理引擎設定，以及 RTX Spark 支援。系統含 Windows、Linux、macOS。TechTimes 轉述 GitHub 文件：用 mDNS 找同伴、mTLS 做點對點，NVIDIA 測過最多 18 台。它路由的是整份推理工作，不是把同一顆模型的權重矩陣拆到兩台筆電上——家用網路做模型平行會太慢。能加速的是「一件代理任務拆成好幾段、各段互不依賴」的吞吐，不是單題深度。PAIR 一個月前才公開測試，官方說社群已經塞進逾 10 項功能與修復。

Switchyard 是另一條帳。這套開源路由庫不是今天才發明的，八月跟 Lightning 一起推過。NVIDIA 開發者部落格與 LangChain 自己的評測文寫過同一組數字：145 道多輪 Deep Agents 題，升級路由把 Nemotron 3.5 Lightning 和 Claude Opus 4.8 接在一起，只有 7% 的呼叫進前沿模型，相對純跑 Opus 成本少 74%，正確率大約少 6 個百分點（80.0% 對 86.0%）。那 7% 的前沿呼叫吃掉約 68.4% 的帳單；Lightning 處理另外 93% 的呼叫，只佔約 10.4% 的支出。Cognition 把分階段路由做進 Devin Desktop，FrontierCode Main 上相對單一前沿模型平均成本少約 28%。Ramp 說過在自家 SWE-Bench 維持前沿正確率的同時，成本少 58%、執行時間少 33%。這些數字綁的是 Lightning 與當時的 Opus 4.8／Opus 5，不是 Bolt 74B。Hermes 被寫成「十月稍晚」才接 Switchyard；GitHub Copilot 與 Perplexity Computer 走自己的混合路由。第三方還記過一筆：Switchyard 套件在 PyPI 上曾標成開發中、倉庫也寫過不適合生產——若今天拿它當採購依據，要先看倉庫是不是已經改口。

MXC 這層，微軟執行長上週才用另一套語言講過：把前沿模型當內部威脅，緊急煞車必須放在模型與編排層之外。NVIDIA 這次把它接進 RTX Spark 開機畫面。官方說法是 MXC 做作業系統級隔離，OpenShell 讓代理比較容易進這層沙盒，並加上憑證保護與監控。OpenClaw 與 GitHub Copilot 已經支援 MXC；Hermes 目標本月底。Microsoft 自己的文件把隔離寫成三檔：行程隔離與工作階段隔離在目前預覽可用，Micro-VM 還在路線圖。對使用者的意思很具體：代理預設能碰的檔案與網址變少，提示詞注入或失控工具呼叫的爆炸半徑會被擋住；同一道牆也可能把你想做的事擋下來。AI 沙箱化把權限從模型對話裡抽出去，模型本身有沒有變乖，這層隔離回答不了。

開機「入門」畫面會讓你選代理應用，再推薦一份針對這台機器的本地模型與設定。GitHub Copilot、Hermes Agent、OpenClaw、Perplexity、Pi、WorkBuddy 被點名會做一鍵設定。NVIDIA 還替自家 NVIDIA App、Broadcast、PAIR、Omniverse、RTX Remix 放出 MCP 伺服器，並開了一個教代理怎麼用 CUDA-X 的 Skills 倉庫。Broadcast 2.3 現在就能下載，離線檔案處理之外，本地代理可以直接改特效、改設定、處理檔案。代理能動的表面變大了；權限邊界有沒有跟著變嚴，要看 MXC 政策怎麼寫，不能看行銷句。

開發者工作流：命令列還在，托盤圖示也來了

本地生態這兩年已經夠吵。llama.cpp 背後的 GGML 格式、Ollama、LM Studio 讓沒在寫編譯參數的人也能把模型拖進筆電。NVIDIA 這次把這些名字寫進發布清單，等於承認 Bolt 的第一現場不在自家雲，而在這些執行器。若你已經在用 LM Studio 跑本地模型，今天要核的不是再學一套新介面，而是 2-bit 檔在你現有後端能不能載入、工具使用會不會在量化後碎掉。

llama.cpp 同一波加上「決策模型」支援：官方形容這類小模型專門做分類、選工具、選下一步，可比傳統長推理迴圈快到 200 倍。Unsloth 也寫進同一句。這不是 Bolt 自己變快 200 倍，是代理編排裡把「下一步做什麼」從大模型剝出來。Llama Windows 則是系統匣裡的圖形介面，點一下就能從 Hugging Face Hub 拉推薦模型，不必進終端機。對只想把代理留在本機、文件不送出公司網的人，這條路徑比 API 金鑰短；對要重現訓練的人，缺的仍是授權全文與資料清單，不是一個托盤圖示。

Hermes 與 OpenClaw 被寫成發布當日就能直接吃 Bolt。這兩套本來就是把智能體工作流鋪在本機上的熱門專案，站內各有完整操作文：Hermes Agent 攻略、OpenClaw 攻略。NVIDIA 要的畫面是：新筆電開機、選一個代理、模型自動對好。實際卡點會落在三處。第一，Hermes 的 OpenShell／MXC 細控制要月底才到，Switchyard 也是十月稍晚，發布當天的「一鍵」不含完整安全與分流。第二，OpenClaw 今年已經走過資料外流與注入事件，本機權限一開大，2-bit 模型若比較容易聽錯指令，後果不會比較小。第三，Windows on Arm 的套件帳 NVIDIA 自己報的是：首個 PyTorch-CUDA 建置、預設原生的 Python 3.15、原生 Conda、熱門 15,000 個 wheel 裡 97% 就緒。剩下 3% 與模擬層相容性，Magica 轉述過 AMD 對模擬效能的警告。代理若依賴某個還沒原生輪子的函式庫，本地「免費反覆試」會先卡在匯入錯誤，而不是卡在智力分數。

微調是開源承諾裡比較硬的一塊。部落格說資料、權重、配方全公開，開發者可以改成自己的代理。若條款真的接近 Lightning 的 OpenMDW 1.1，商用與再散佈會比「只有權重、資料不公開」好談；若落地後收成較窄的研究授權，行銷句裡的「完全開源」就要改寫。2-bit 權重也不等於好微調起點——多數人仍會先找更高精度參考檔，再自己做 LoRA 或量化，而不是直接在 2-bit 上繼續訓。官方有沒有同時放 BF16／FP8 參考檔，目前沒寫。

商業動機很直：先讓生態圍著這台筆電轉

一顆不收 API 費的模型，怎麼幫 NVIDIA 賺錢？答案不在 token 單價，在誰的矽、誰的驅動、誰的區網路由器成為本地 AI 的預設路徑。封閉的 74B 也能賣筆電；把訓練資料一併公開，才能讓 llama.cpp、Ollama、代理框架在上市前就把這顆檔案排進程式。PAIR 把家裡其他 RTX 機器捲進同一池推理，Switchyard 把還做不到的題送回雲——雲端那一端，很大機會仍是別人的模型、但經過 NVIDIA 筆電才出去。本地下載量「已達去年全年五倍」這句，官方沒給統計區間、沒給「一次下載」的定義；方向可以信，倍數不能當獨立數據。

對雲端實驗室，這不是同一場比賽。OpenAI、Anthropic、Google 的旗艦仍走訂閱與 API；Bolt 要搶的是「常駐在筆電上、文件不離機」的那一截。Qwen 3.8-Flash-Next 被 NVIDIA 自己點名，說本地模型已經追到數個月前的雲端前沿——這句是為了證明 Spark 買得有理由，不是一份對照評測。Meta 的 Muse Glimmer、Google 的 Gemma 系列也都在往筆電塞代理。Bolt 的差異化是體積數字（74B 標在 24GB 上）加上整套控制平面，不是已公布的智力分數。

對採購，帳要分開算。2,600 美元入門筆電一次買斷，電費、風扇、占用這台機器的機會成本還要另計；雲端 API 是可變成本，難題才升級。LangChain 那組 74% 是「本地／便宜模型吃掉 93% 呼叫」才能成立的結構。若 Bolt 的 2-bit 在工具呼叫上掉得太兇，路由器會把更多題送回前沿，省下的錢會吐回去。反過來說，若 2-bit 在指令遵循上站得住，入門 Spark 加 PAIR 加一條雲端備援，才有機會把月費從「每題都走 Opus」改成「少數題走 Opus」。現在沒有公開工作負載能幫你算這道題。

時間線與還缺的證據

權重一旦真的出現，有用的核對只有幾項，而且要固定硬體與代理套件再比，不要拿聊天分數代替代理成功率。

第一，2-bit 的指令遵循與工具呼叫成功率，對上同激活規模、壓縮較少的 MoE；代理任務裡一次選錯工具會連錯後面十步。第二，24GB 機器在開著代理、編輯器、瀏覽器時的常駐記憶體、首 token 延遲與續航，不要只報空載 decode。第三，授權檔與資料清單是不是真的「完全開源」，以及有沒有高精度參考權重可做微調。第四，llama.cpp／Ollama／LM Studio／vLLM 在 Windows on Arm 上是原生跑，還是掉進模擬。第五，MXC 預設政策擋得住越權，會不會也擋掉你日常要的檔案與網路。

這些項目有一項對不上，74B 這個標題數字仍然成立——它描述的是參數總量，不是你在 24GB 筆電上實際得到的工作品質。NVIDIA 把型號、價目表與開機畫面都對準同一個體積；體積已經交卷，品質還沒。