Hugging Face 上那份 mistralai/Mistral-Large-4-1T-A52B 倉庫,權重最後寫入時間是 14:51 UTC。54 個 safetensors 分片、磁碟佔 1,060.6 GB、標籤寫 FP8、沒有 gated。隔壁的 NVFP4 倉庫少了四十幾分鐘先寫完:32 個分片、610.1 GB。授權檔 2,632 位元組,標題是 Mistral Ecosystem Open-Weight License。這就是 Mistral 把 Large 4(內部暱稱 Le Chonk)從 API 預覽推進到可下載的那一下:檔案在,授權在,vLLM 與 SGLang 的啟動指令也一起貼出來。權重本身是 開放權重,不是把訓練資料與完整配方一併公開的開源專案。
三週前同一顆模型還只在 Studio 清單裡。當時文件寫總參數 1.05 兆、每個詞元激活 490 億、視覺編碼器 16 億,權重被寫成「本月底」;第三方把日期寫成 27 日,託管頁倒數指著 31 日。預覽那篇核對過這三個日期並存。實際落地比 27 日晚兩天,比 31 日早兩天。中間多出來的,官方說是「大約三週的額外強化學習」加上客戶與資安夥伴的回饋。
下載到的規格,以及還對不上的幾處
模型卡與官方文件現在對得上的部分是:混合專家模型、約 1 兆總參數、每詞元激活 490 億(把嵌入層與輸出層算進去是 520 億)、128 個路由專家每次開 4 個再加 1 個共享專家、72 層、隱藏維度 6,144、64 個注意力頭、多模態輸入(文字加圖像)只出文字、原生上下文窗口標 1,048,576 詞元。第一層是稠密前饋,其餘 71 層走 MoE。注意力是 Multi-head Latent Attention 配 DeepSeek Sparse Attention 索引器,每個 query 最多選 2,048 個 key 位置。RoPE 與 NoPE 按 3:1 交錯,KV 狀態跨層共享。視覺側是 16 億參數的 Pixtral 編碼器,30 層、14×14 patch。
訓練卡數也收斂了。官方這次寫死 3,800 顆 NVIDIA Grace Blackwell GPU,在歐洲自有機房從頭訓練。預覽期有媒體寫「約 4,000 顆」,差在四捨五入,不是換了一套叢集。
還對不上的有兩處。一是語言數:NVFP4 模型卡寫 39 種,官博寫 160 種以上、含歐盟全部官方語言。二是 1M 上下文怎麼來的。OrcaRouter 把設定檔裡的 YaRN 區塊拆開:原生 RoPE 窗口 512 詞元,放大倍數 2,048,相乘剛好 1,048,576。這表示你下載到的設定是用外推把窗口拉到一百萬,不是模型在一百萬長度上有完整訓練紀錄。把一份九十萬詞元的文件丟進去之前,這條算術值得先看一眼。
推理檔位改成三檔:low、medium、high,預設 high。官方說 low 取代預覽期的 None。Hugging Face 的 Transformers 說明寫得更硬:推理關不掉,把 reasoning_effort 設成 none 仍會走 high。想拿它當便宜聊天模型,這顆預設不是為你設的。
技術報告被寫成「即將推出」。架構細節目前散落在模型卡、Hugging Face 部落格與推論框架的 day-0 說明,還沒有一份把資料配比、後訓練配方與安全評估方法一次講完的論文。
授權那一條,決定誰能拿它賣推論
Mistral 把授權稱成「改寫過的 MIT」。可以免費使用、複製、修改、繼續訓練、散布、再授權、販售模型與衍生作品,條件是附上著作權與許可聲明。真正卡住商業產品的是第 2 條:如果你或任何關係企業在經營 Model-as-a-Service,必須先跟 Mistral 另簽商業授權,才能把模型或其衍生作品拿去做任何商業用途。沒有營收門檻,不管公司多小。
授權把 MaaS 定義成:讓第三方透過任何方式(例如 API 或託管端點)取得模型或其衍生作品的推論或後訓練,且該第三方能對輸入、參數或訓練資料行使有意義的控制。兩類被排除:模型能力只嵌在特定功能或 harness 裡的終端產品,以及「只是把請求轉送到別人託管的模型」。第 3 條再把內部使用(不把模型或其衍生作品提供給第三方)以及走 Mistral 官方產品的使用排除在第 2 條之外。
讀起來大概會落成三個桶。自己的 GPU、自己的團隊,算內部使用。產品裡有一顆「摘要」按鈕、使用者改不了底層參數,比較像嵌入式排除。讓客戶自己送提示詞、自己選參數的託管端點,以及把微調後的衍生模型再對外提供推論,會踩到第 2 條。關係企業也算:姊妹公司在賣推論,你這側的答案也可能一起變。這是對條文的閱讀,不是法律意見。產品貼近界線時,要問的是 Mistral 或律師,不是模型卡底部那句「modified MIT」。
VentureBeat 引營收長 Marjorie Janiewicz 的說法,把客戶需求收成三句:不要被斷線、要能按自己的資料客製、要有業務連續性。下載權重回應的是前兩句與第三句裡「不靠單一供應商持續許可」的那一半。第三句的另一半——機房、電費、維運、值班——授權檔沒有幫你付。
官方數字與獨立榜不是同一張表
Mistral 的開權重公告把編碼成績寫得很滿。Cognition 的私有 FrontierCode 2.0(看倉庫維護者會不會合併 agent 的改動)官方寫 19.7%。Artificial Analysis Coding Agent Index 官方寫 48%,與開放權重領先的 GLM-5.3「實質打平」,平均每任務少用 47% 的詞元。Terminal-Bench 4.0 官方寫從預覽的 28% 進步 13 個百分點到 41%,輸出詞元少 30%。Surge Code 的盲測兩兩比較,官方寫對 GLM-5.3 與 Kimi K3 勝率 64%、對 DeepSeek V4.1 Flash 56%、對 Claude Opus 5.5 只有 22%。
獨立實驗室把同一組 harness 跑過公開 API 之後,數字換了一套。Artificial Analysis 在 10 月 29 日的 Intelligence Index v5.0 評估裡,把 Mistral Large 4(high)的 Terminal-Bench 4.0 記成 25%,比官方少 16 個百分點;FrontierCode 2.0 記成 15%,官方是 19.7%。同一張獨立表上,DeepSeek V4.1 Flash 1017 的 FrontierCode 是 29%,GLM-5.3 是 22%。官方圖表把 19.7% 畫成開源第一;獨立評估不支持把這個第一名延伸到公開 API 上。
Coding Agent Index 這項兩邊比較接近,但排名用詞不同。獨立榜(開放權重、現可測):
| 模型與推理檔 | Agent 軟體 | Coding Agent Index | 每任務總詞元 |
|---|---|---|---|
| GLM-5.3,max | Opencode | 49 | 1,590 萬 |
| Mistral Large 4,high | Mistral Vibe | 48 | 850 萬 |
| DeepSeek V4.1 Flash 1017,max | DeepSeek Harness | 46 | 1,670 萬 |
Mistral 說「打平」;Artificial Analysis 排第二。一分之差本身證明不了統計顯著。850 萬對上 1,590 萬倒是清楚:同樣接近的分數,詞元少了約 47%。這是整套 agent 配置的比較,不是把底層模型抽換到同一套軟體後的對照。
整體智力分數的變化更小。v5.0 指數預覽是 25、開權重版本 26。這讓它成為該榜上「中國以外開發、且有權重可下」的最高分,比 Muse Spark Open 的 xhigh 高 1 分。全球開放權重仍有七顆更高:DeepSeek V4.1 Flash 1017 與 GLM-5.3 在 32,MiMo-V2.6-Pro 在 30。閉源當前高檔是 Gemini 4 Carbon 59、Opus 5.5 58、GPT-6 Astra 57。預覽剛上線時 AA 給過 38,那是舊版指數;v5 把更難的項目加進去,且約 60% 改用私有題或隱匿答案,38 與 26 不能直接相減。
差距最可能的來源是配置:推理檔、agent 軟體、題目切片。最不該做的是把 41% 與 25% 印在同一格當「Mistral Large 4 的 Terminal-Bench 成績」。Hugging Face 部落格仍引用 DeepSWE v1.1 的 61.7%、SWE-Atlas-QnA 的 59.4%、Terminal-Bench 4 的 28.3%——後者對得上預覽期的官方數字,對不上開權重公告裡的 41%。Vals 已不再為新模型跑 SWE-bench Verified。DeepSWE 這次也沒有被換成新分數。
事實正確率與幻覺是另一組獨立數字。AA-Omniscience v1.1:幻覺率從預覽的 41% 降到 28%,與 Muse Spark Open 相同;正確率仍是 26%,Muse 是 42%,DeepSeek 是 40%。少亂講不等於更會答對。輸出詞元也瘦了:智力指數每任務平均輸出從預覽的 135,000 降到 82,000,少 39%。AA 測到的速度確實快,約每秒 161.3 個輸出詞元、首 token 1.42 秒;單任務成本 2.06 美元,在同價位帶仍偏貴,因為想得久的模型把錢花在詞元量上,不是只花在單價上。
價目表在權重落地同一天腰斬
開權重公告把 Mistral 自家 API 寫成每百萬輸入 0.70 美元、快取輸入 0.07、輸出 2.10。預覽期牌價是輸入 1.36、輸出 4.18;當時的預覽折扣大約打對折。權重上線後的牌價,大致落在預覽折扣價的位置,而且變成正式價。
Artificial Analysis 把「跑完一題智力指數要花多少錢」也測過了:
| 模型與檔位 | 每題智力指數成本 |
|---|---|
| Mistral Large 4 Preview | 5.54 美元 |
| Mistral Large 4,high | 2.06 美元 |
| Muse Spark Open,xhigh | 2.02 美元 |
| DeepSeek V4.1 Flash 1017,max | 0.60 美元 |
| MiMo-V2.6-Pro | 0.26 美元 |
相對預覽少了約 63%,跟 Muse Spark Open 幾乎貼在一起。DeepSeek 與 MiMo 在同一套指數上分數更高、單題更便宜。API 單價腰斬,不自動變成市場上最便宜的開放權重路線。DeepSeek Flash 1017 那條線仍在用更低的單題成本拉分數。
自架的成本表是另一本帳:八張 Blackwell 的租金或折舊、電、工程師把 vLLM 旗標調到能穩跑 1M 窗口的時間。官方價目只覆蓋託管 API。
610 GB 才是多數人能碰到的那份檔
1.05 兆參數的 FP8 權重是 1,060.6 GB,還沒算 KV 快取、激活與碎片。八卡 Blackwell 節點裝得下,大約還剩 400 GB;八張 H200 幾乎貼底。NVFP4 把磁碟壓到 610.1 GB:專家權重走 NVFP4,線性層留 FP8,vLLM 食譜還要求 MLA 層用 FP8 KV。這不是整顆模型一律 4-bit,是針對 Blackwell(B200、B300、GB200、GB300)的混合精度棧。
官方食譜沒有因為量化就把卡數砍半。vLLM 公開指令是 --tensor-parallel-size 8;SGLang 是 --tp-size 4。量化的主要用途是留給長上下文,不是讓你用一張消費卡把 1 兆參數跑起來。vLLM 的 day-0 說明補了一組對照:NVFP4 在多模態、長上下文、編碼 agent、商務自動化與資安評測上,與 FP8 的差距每項不超過 2.1 分、平均 −0.3 分;完成詞元量差距約 4%;解碼每詞元快 1.08 到 1.19 倍(開 DSpark 則 1.18 到 1.22 倍),KV 容量大約 1.5 倍。OrcaRouter 寫稿時仍認為「NVFP4 與 FP8 在同一套評測上的獨立對照還沒有人公開跑完」——vLLM 這組數字是框架方的,不是第三方實驗室的。
內建的 DSpark 不是旁邊再掛一顆小模型。設定檔寫的是三層滑動窗口 MLA 加上小型循環草稿頭,已經包在那 610 GB 裡面。投機採樣平常要為第二顆模型付記憶體;這裡草稿頭跟權重一起下載。vLLM 說約每步接受 2.9 個詞元,TP8 上輸出吞吐大約翻倍。Decode Context Parallel 把 KV 按詞元切而不是在每個 rank 複製:TP8 加 DCP8,FP8 的 KV 容量從 238 萬詞元升到 1,888 萬,NVFP4 從 360 萬升到 2,876 萬。廣告上的 1M 窗口,硬體條件寫在這些旗標裡,不寫在官博第一段。
本機路線另有一條。llama.cpp 與 Unsloth 出了 GGUF:IQ2_XXS、Q2_K、Q4_K_M、NVFP4、Q8_0、BF16。Hugging Face 部落格寫,2-bit 量化能在單一顆 512 GB 統一記憶體的 Apple Silicon Ultra 上跑;他們在 M3 Ultra 上測到 Q2_K 預填約每秒 90 詞元、生成每秒 15 詞元。四張 RTX 6000 Pro 上,NVFP4 在 32K 上下文生成約每秒 10 詞元;IQ2_XXS 短上下文生成約 30、拉到長上下文掉到約 3。這不是「筆電可跑前沿模型」的故事,是「有人願意用 2-bit 與 512 GB 統一記憶體換一個可互動的本機端點」。
Hugging Face Inference Endpoints 給了一份 8×H200 的現成食譜:單請求、1K 提示詞,首 token 約 0.6 秒、生成約每秒 65 詞元,DSpark 草稿被接受時可到 120–138;16K 提示詞四路並行,預填合計約每秒 4,300 詞元,首 token 8 到 9 秒;1,000 條 ShareGPT 負載下總生成約每秒 480 詞元。Transformers v5.22.0、TRL 的微調(含 LoRA/PEFT)、NVIDIA NIM 容器、TensorRT-LLM、Microsoft Foundry 的私有 Azure 部署、Dell Enterprise Hub,都在同一天掛上 day-0。AMD Instinct MI350 也寫了 day-0。要把這顆 大型語言模型 接到自己的資料上再拿去推理,微調路徑已經在同一天打開;技術報告還沒來,推論棧倒是先到了。
防守用途被寫成主打,官方自己也寫了攻擊面
網路安全評測是這次發布最願意展開的一章。Artificial Analysis Cyber Index 獨立測到 51 分(high),開放權重裡排第三;DeepSeek V4.1 Flash 1017 max 是 57,MiMo-V2.6-Pro 是 56。拆開看:
| 分項 | Mistral Large 4 high | DeepSeek V4.1 Flash 1017 max | MiMo-V2.6-Pro |
|---|---|---|---|
| CyberGym-E2E-AA | 79% | 76% | 79% |
| DeepsecBench-AA | 15% | 25% | 26% |
| CWE-Bench-AA | 58% | 69% | 63% |
CyberGym(在真實開源軟體裡重現漏洞再打補丁)這項,Mistral 跟 MiMo 並列、略高於 DeepSeek。另外兩項落後。預覽期被反覆引用的「漏洞複現 82%、因為閉源對手拒答」仍然解釋得通:許多閉源前沿模型在這類題上接近零,因為使用政策把「重現漏洞」當成攻擊。防守要修洞,通常得先重現洞。開放權重把使用政策與部署地點交回給操作者;API 也可能在事件中途被關。
官方同時報了另一個數字:在 JailbreakBench、StrongREJECT、AgentHarm 的惡意網安提示上,平均拒答率 96.6%,自稱開放權重裡最高。B3 Agent Security 攻擊抗性從預覽的 93.3% 升到 97.1%。這兩項都是公司自測。同一篇公告後面寫得比較直:他們在線上流量裡看到模型拒絕對活體目標做黑箱攻擊,但「看到它有被拿去進行真實攻擊的潛力」,正在改防護欄,未來數月還會繼續改。
專門變體沒有跟公開權重一起放。官方說企業設計夥伴(點名 Orange Cyberdefense)在預覽一顆針對滲透測試、漏洞評估與紅隊的特化版,要審核與合約約束,測試限於自有或明確授權的系統、受控環境。公開權重被定位成防守;進階攻防工作流走另一條、不公開的管道。權重一旦下載,後續有沒有人把拒答拆掉,原廠控制力會下降——Janiewicz 在訪問裡沒有提出「下游拆不掉防護」的證據。她提出的是另一件事:客戶應該自己有模型、自己設防護欄。
Booz Allen、Cisco、Cloudflare、Fortinet、Rubrik、Zscaler 的引言被放在公告中段,內容多是「開源讓我們能在自己的環境客製」與「成本曲線好看」,沒有附上可核對的生產指標。ABN AMRO、Belfius、Crédit Agricole、ESA Φ-lab、ASML 的說法同樣是興趣、測試與部署可能性,不是 Large 4 已經在帳上省下多少錢。Janiewicz 被問到可歸給 Large 4 的業務結果時,回答是系統還在建、有意義的營運數字要更久。
Finch 財務工作流官方寫到 73.3%,開源第二、落後 Kimi K3 的 77.3%。BrowseComp 從一份監督微調檢查點的 75% 拉到 84.5%,基準不是預覽版本身。這些是基準進步,不是客戶營收。
自架之前要先核對的幾件事
權重、授權、推論指令同一天到齊,對已經有八張 Blackwell、或資料駐留規則不准走託管端點的團隊,計算式變了:檔案存在、條款存在、廠商給的是測過的啟動命令而不是「社群自己想辦法」。先拉 NVFP4(610.1 GB),用官方映像把工具呼叫與推理解析器打開,拿自己的倉庫、自己的漏洞樣本、自己的長文件對一下託管 API,再決定生產路徑要不要遷到自架。NVFP4 相對 FP8 的品質,目前主要是框架方的對照;1M 窗口是 YaRN 外推;Terminal-Bench 的 41% 與 25% 還並存。
沒有那類硬體的人,這次真正能立刻用的是價目表,不是檔案清單。每百萬 0.70/2.10、快取再打到 0.07,大約是預覽牌價的一半。單題 2.06 美元仍然貴過 DeepSeek 與 MiMo。智力指數 26 只比預覽多 1 分,真正移動的是詞元效率、幻覺率,以及「權重在不在你硬碟裡」。技術報告沒來之前,架構故事仍不完整;MaaS 條款沒談妥之前,對外賣推論的產品不該假設「改寫 MIT」等於可以上架。
