前 OpenAI CTO Mira Murati 創立的 Thinking Machines Lab,在沉寂近一年後終於交出第一份「能下載的權重」:Inkling——MoE 架構、9750 億總參數、每次推理約 410 億活躍參數、100 萬 token 上下文,在 45 兆 token 的文字/影像/音訊/影片上從零預訓練。完整 checkpoint 與 NVFP4 量化版已上 Hugging Face;企業可透過 Tinker 平台 微調。官方直言:Inkling 不是當下最強的整體模型,但是「值得拿來改」的開放底座。
這在 2026 年七月的前沿賽局裡位置很特殊:GPT-5.6 Sol 已 GA、Claude Fable 5 已重回全球,但美系一線實驗室幾乎都不再釋出完整權重。Murati 把 Thinking Machines 2025 年 20 億美元種子輪、120 億美元估值的賭注,壓在「企業要的是能客製化的 AI,不是只能租用的旗艦 API」——與 三月與 Nvidia 的 1GW 算力敘事 形成「算力+開放權重」雙腳本。
規格一覽:大,但不是「越大越好」的宣傳
| 項目 | Inkling | Inkling-Small(預覽) |
|---|---|---|
| 架構 | MoE Transformer,256 routed experts + 2 shared | 276B 總參數 MoE |
| 活躍參數/token | 約 41B | 約 12B |
| 上下文 | 最高 100 萬 token | 同家族配方 |
| 預訓練資料 | 45T token(文字+圖+音+影) | 類似配方 |
| 推理輸出 | 目前以文字/程式/結構化資料為主 | 權重測試完成後釋出 |
| 部署門檻 | BF16 約需 2TB+ GPU 記憶體(約 8×B300 或 16×H200) | 更低延遲取向 |
| 分發 | Hugging Face 權重 + Tinker API(64K/256K 上下文選項) | — |
Thinking Machines 強調 encoder-free 多模態:音訊以 dMel 頻譜、影像以 40×40 patch 的 hMLP 編碼,與文字 token 聯合處理。模型能「聽懂」語音指令、描述圖表,但對外產出仍以文字為主——為日後 interaction model(即時語音+視覺協作)鋪路。
訓練硬體方面,公司稱使用 Nvidia GB300 NVL72 系統從零訓練;架構靈感部分來自 DeepSeek-V3,但堅稱非蒸餾既有權重。Axios 則披露:最終訓練階段曾使用包括 Moonshot Kimi K2.5 在內的開源模型生成資料——在 新加坡出口管制與蒸餾爭議 當週,這條供應鏈細節格外敏感。
效能敘事:廣譜通才,而非單項榜一
官方蜘蛛圖把 Inkling 與 Nemotron 3 Ultra、GLM 5.2、GPT-5.6 Sol、Claude Fable 5 放在同一座標——Inkling 沒有宣稱全面碾壓閉源旗艦,但在代理編程、多模態音訊/視覺、校準預測等維度標榜「開源權重裡的均衡強者」。
幾個可核對的公開錨點:
- Design Arena Agentic Web Dev 盲測排行榜:Inkling 約 1257 Elo,在開源權重中緊貼 GLM 5.2、低於 GPT-5.6 Sol(1260)與 Claude Fable 5(1329),但高於多數中國開源對手;
- Terminal Bench 2.1:透過可調 thinking effort(0.2–0.99),Inkling 可用約 三分之一 token 達到 Nemotron 3 Ultra 同分——主打「推理成本曲線」而非絕對峰值;
- 音訊:VoiceBench 91.4%、MMAU 77.2%,在開源 omni 模型中具競爭力;
- ForecastBench(無搜尋):Brier 指數 61.1,官方稱與 Gemini 3.1 Pro 同級,強調校準與誠實拒答而非一味自信。
Murati 團隊上周發布 manifesto 稱要 「keep the weirdness alive」——Inkling 的定位正是:不跟 ChatGPT 搶「最強閉源助手」,而是給開發者一塊能捏成奇形怪狀的陶土。
Tinker:變現不在權重,在「幫你改權重」
TechCrunch 與 The Register 都點出商業模式:Inkling 權重本身可免費下載,Thinking Machines 收費的是 Tinker——微調、評估、協作預覽。官方示範甚至讓 Inkling 自己寫 fine-tuning job、跑訓練、再評估結果(在 OpenCode harness 內完成),把「模型會改模型」從 RSI 口號 拉到開源開發者看得見的 demo。
Tinker 上線 Inkling 並提供限時五折定價;第三方託管則洽談 Together AI、Fireworks、Modal、Databricks、Baseten。推理引擎 day-0 支援 vLLM、SGLang、llama.cpp、Miles、TokenSpeed 等——降低「下載了卻跑不起來」的摩擦。
對企業採購的含義:
- 資料主權:權重在自家 GPU 上跑,不必把微調資料全送進閉源 API;
- 領域適配:醫療、法律、製造等垂直場景,可用同一底座做多次 微調,成本結構與按 token 租旗艦不同;
- 風險自負:開源意味濫用與越獄責任部分轉移給部署方——Cognition 的 Propaganda and Censorship Eval 顯示 Inkling 在「審查服從」測試表現與部分開源衍生模型不同,這既是賣點也是合規雷區。
與中國開源、美系閉源的三方棋局
The Register 稱 Inkling 是美國迄今最大的開源權重模型,參數量對位 DeepSeek V4、GLM 5.2、Kimi K2.6 等中國旗艦開源。七月上旬 Z.ai、Sakana 等還在利用 美國模型出口管制 推銷「無斷線風險」的開源方案;Murati 則從西側補上一塊:Apache 2.0 等寬鬆授權下的美系底座(Register 明確寫 Apache 2.0)。
但 Axios 也提醒:Murati 在 OpenAI 2019 年親歷 GPT-2 因濫用恐懼 withheld 權重 的轉折;Thinking Machines 未承諾未來所有模型都開源——Inkling 是「風險可控時開放」的案例,不是永久政策。
重點金句(官方定位):「Inkling 不是當下最強的整體模型;讓它值得發布的是多模態、可控推理與可微調性。」——Thinking Machines Lab 發布文
接下來驗證什麼
獨立第三方尚需時間複現 benchmark;Inkling-Small 完整權重仍在測試。值得追蹤:Tinker 付費轉化、企業微調案例是否湧現、以及 50B 美元新一輪融資傳聞(TNW 稱曾停滯)是否因 Inkling 重啟。
在閉源旗艦每週換代、政府審查常態化的夏天,Inkling 回答的是另一個問題:當「最強」買不到或買不起時,誰提供夠強且能帶回家的底座? Murati 賭的是第二條路線還有大市場——而第一個答案,已經在 Hugging Face 上佔了約 1TB 的下載空間。
開發者該怎麼選:Inkling vs 租 API vs 中國開源
三條路線在七月同時清晰:
| 路線 | 代表 | 優勢 | 代價 |
|---|---|---|---|
| 閉源 API | GPT-5.6 Sol、Claude Fable 5 | 峰值能力、免運維 | 按 token 計費、權限與出口管制、無法深度改權重 |
| 中國開源 | GLM 5.2、DeepSeek V4、Kimi K2.6 | 參數量、價格、社群 | 地緣合規、部分企業禁運、文件與工具鏈差異 |
| 美系開源 | Inkling、Nemotron 3 Ultra | 可下載、可審計、Tinker 微調 | 自建 GPU 叢集成本、安全責任自負 |
若你的工作流是 長上下文代理編程+領域微調(例如內部程式庫、工業 SOP、醫療表單),Inkling 的 100 萬 token 與 thinking effort 曲線值得在 Terminal Bench 類任務上實測;若只要聊天助手,租 Sol 可能更省事。官方也誠實寫明:閉源旗艦在綜合分數上仍領先——Inkling 賣的是「夠用且可塑」,不是「全面封王」。
最後一個實務提醒:NVFP4 量化版針對 Blackwell 優化,老卡集群需自行評估延遲與精度損失;先跑 64K 上下文 smoke test,再談 256K 或百萬級長文,可避免推理帳單在 thinking token 上爆炸。
