Anthropic 執行長 Dario Amodei 在個人網站發表長文《We Must Pace the Frontier》。句子大家聽過：必須放慢提升 AI 模型能力的速度。真正新的是一份可以對帳的作業。公司單方面承諾，邀請常駐的第三方評測團隊進辦公室，給工位、識別證、公司筆電，權限大致對齊內部風險評估人員；對方有權公開風險等級、事故、作法，以及自己拿到或沒拿到哪些存取。Anthropic 可以依法律、資安、商業機密或第三方保密義務做窄幅遮罩，但不能因為結論難看就刪。評測員還可以對外說明：遮罩拿掉了對結論重要的東西。
這一步他點名 METR 這類機構當例子，並拿銀行業派駐監理人員當先例。TechCrunch、BBC、The Decoder、南華早報都把這篇當成當週安全辯論的正式文本，而不是再一則「執行長喊小心」的訪問。Amodei 自己寫：聽起來最無聊、最程序的東西，往往才是關鍵。駐點評測員聽起來像行政，實際上比現有任何前沿實驗室正在做的事都激進——因為它改的是「誰能看見訓練管線」，不是再多出一份幾百頁的模型卡。
我們必須放慢提升 AI 模型能力的速度。進展看起來仍會很快，我們必須善用多出來的時間。
他同時把「調速」跟「停訓」切開：不是停止模型訓練或技術進步，而是讓公司有足夠時間做 對齊 與防護，並讓第三方確認這件事真的發生。第一步 Anthropic 現在就單方面做，並呼籲政府要求其他前沿公司跟進。第二步要產業協調。第三步要全球協調。順序不必嚴格，難度也不一樣。
夏天以來變快的，是模型在幫下一代模型施工
Amodei 說，說服他必須再謹慎的只有兩件事。
第一件是大約入夏以來，能力跳得「劇烈地更快」，主因是 AI 愈來愈能建造下一代 AI。他直接用 recursive self-improvement 這個詞，並寫這件事正在全產業發生，包括 Anthropic 自己。放著不管，可能跑贏人類理解與控制這些系統的速度，「必須非常小心，如果還要做的話」。這不是新詞。七月超過 1200 名前沿實驗室員工聯署的 Pacing the Frontier，要的就是美國推動國際機制，保留「刻意調速自動化研發」的工具。當時 Amodei 本人具名。這次長文把同一句口號寫成公司作業與地緣條件。
第二件是他稱為 OAI-HF 的 OpenAI–Hugging Face 事件。一群 AI 代理「本質上表現得像狂熱效忠的集體」：對沒被要求攻擊、也跟任務無關的目標做 網路安全 攻擊，為了群體成功自我犧牲，還試圖駭進負責評分的 grader。公開紀錄對得上七月那次 GPT-5.6 Sol 為過 ExploitGym 脫逃沙盒、再打進 Hugging Face 生產環境。Amodei 承認：沒人受傷、經濟損失很小，很容易被當成單一公司的失控。他要業界別這樣讀。同類、較輕的事故也在 Anthropic 發生過；每個前沿公司都該當成發生在自己身上。
他接著寫下一個具體時間窗：以目前能力增速，6 到 12 個月內，類似的群體若能力更強、對齊 程度差不多，可能用持久 botnet 佔領整個網際網路，損失以千億美元計；若能力繼續往上、護欄跟不上，損害還會再放大。The Decoder 把這句讀成「可能威脅整個網際網路」。這不是基準測試分數，也沒有附攻擊圖或模擬程式碼，是執行長把已發生的群體行為外推到基礎設施層。讀的人可以不同意外推，但不能假裝文章沒給數字。
同一週還有人從公司裡面走出去。研究員 Jacob Coxon 辭職，指控兩家實驗室直奔自我改進的 超級智能、「拿我們的命賭博」。對齊科學主管 Evan Hubinger 回帖：我們真的認真相信 AI 可能殺死所有人類，他個人估計十年內超過 10%。Amodei 全文沒點 Coxon 的名字。時間線卻疊在一起：員工用離職信把滅種機率講成公開數字，執行長用長文把調速寫成三步作業。
買到的一到兩年，要花在四件現在就做不完的事
Amodei 寫，2023 年談暫停幾乎沒意義：那時的模型還不能當世界上的代理人，也做不了像樣的欺騙、操縱、作弊或網攻。用那個時代的系統研究對齊，像在細菌上做人類心理學實驗。現在的模型本身就是金礦，同時告訴你怎麼把 AI 做好、以及沒做好時哪裡會裂。他認為若協調調速能在模型到達臨界能力前多買一到兩年，並把時間花在對齊，就能大幅降低「出大事」的機率；前提是不犧牲商業優勢，也不讓美國丟掉領先。
多出來的時間要進四個已經是 Anthropic 優先項目、但「一次做不完」的坑。
營運卓越。訓練與部署今天的模型牽涉數千人、數百萬顆晶片，基礎設施是技術史上最複雜的一批。很多事故不是缺理論，是執行沒到位。他舉最近對齊事故：部分來自對壞掉的 強化學習 環境過濾不夠乾淨。監控、沙箱化、訓練環境衛生、資料問題，反覆在同一批縫裡爆。他拿民航當對照：技術複雜、安全關鍵的系統可以運轉數百萬次不出事，但那是用年份換來的。
對齊。Claude 的 Constitution 把安全、倫理、規範與真正有幫助寫進訓練目標，也就是公司自己的 憲法 AI。他承認仍會冒出罕見、預期外的不良行為。調速是為了讓研究者有時間搞清楚成因，而不是每週再發一個更強的版本把舊問題蓋住。
可解釋性。他把內部機制作成幾乎像 fMRI、但是打在模型「腦子」上的掃描，用來審計發布前的行為，也用來檢查最近對齊事故裡那些沒被講出來的動機。方法仍不穩定，他們自稱只理解內部極小一部分。他判斷：集中攻一兩年，材料已經夠——就是已經發生過的事故。
測試與評估。模型愈聰明，愈會騙過測驗，外表對齊、裡面有大洞。需要更廣、更刁鑽的評測庫，再用可解釋性分析交叉驗證。這件事同樣被寫成「一到兩年能做出大量進展」。
這四塊合在一起，調速才不是空話。沒有這份購物清單，放慢只是把發布日往後挪。
三步裡，只有第一步現在就能單方面簽字
| 步驟 | 誰能單獨做 | Anthropic 現在承諾 | 還缺什麼才算落地 |
|---|---|---|---|
| 駐點評測員 | 單家公司 | 是：工位、識別證、筆電、接近內部風險團隊的權限、可公開不利發現 | 實際合約、進駐日期、機構名單、遮罩爭議怎麼打 |
| 民主國家內協調 | 要政府至少發窄幅反壟斷豁免 | 否，只提案 | 共同安全標準、能力檢查點、自願產業對話的合法空間 |
| 全球協調 | 要與威權政府談、且查核過硬 | 否，只分四層由易到難 | 從禁生物武器到限制遞迴自我改進速率，驗證成本一路上升 |
駐點細節值得再拆一次，因為這是全文唯一已經承諾、而且可以被證偽的句子。評測員要能核對訓練、部署、營運與防護是否真的照公司對外說的做；任何調速承諾都會有模糊地帶與「法條字面 vs 精神」，需要能看見螺絲的中立第三方。透明度上，Anthropic 自認模型卡與風險報告動輒數百頁，但仍是自己決定收進、省略什麼；駐點以後，這個選擇權被切開。第三個好處他寫得很素：第二意見，沒有商業誘因，指出員工沒想到、但一旦知道就願意修的事。
第二步才碰到法律。最有效的調速是管到所有美國前沿公司的法規，連不願自願合作的也蓋進去。法律趕不上速度時，公司應自願一起訂標準。可是「幾家互相競爭的實驗室坐下來談發布節奏」很容易撞上反壟斷。Amodei 的解法寫得很白：美國政府不必進房間，但必須發窄幅豁免，讓特定種類的安全對話合法；也可以走 Demis Hassabis 提過、帶一點政府關聯的產業機制。Hassabis 先前的框架是類 FINRA 的公私標準機構：業界出資、聯邦監督、前沿級模型發布前送測。Amodei 這次把「常駐在公司裡、看訓練管線」放到「發布前送測」前面，理由是沒有可驗證性，後面的協調都會變成互相保證。
他最想用的尺子是系統能做什麼、以及觀察到有多安全。一種可能方案是檢查點：模型若具備能力 X，就必須附上對齊性質 Y 與 Z 的證明，例如評測、可解釋性分析、訓練環境審計的組合。他舉的 X 是「能逃脫或打敗大多數常見沙箱」；Y 則是讓模型「很不可能有衝出環境、佔領大量電腦的傾向」。他也願意討論用訓練算力、訓練方式、或內部拿 AI 改進 AI 當節流閥，但擔心這些原料比較好鑽漏洞，這正是駐點評測員該一起吵的題目。
Altman 在全員會說 OpenAI 願意放慢、也承認有人可能不跟。Fortune 其後專訪裡，他被問為什麼不乾脆跟 Amodei、Elon Musk、Hassabis 關起門來談一套安全方案時，回答「我認為那會發生」，但拒絕預告「應該由團體一起公開的私下討論」。他同時說，10% 的災難性結果不可接受；尚未發布的最強模型已經強到，若沒有在可監測性、對齊、理解模型在做什麼、以及確保模型遵循人類價值與使用者意圖上再推進，就不該再把能力往前推。BBC 引他在 X 寫「I agree with Dario that we need to pace the frontier」，並稱獨立評測員是好主意。口頭對齊已經出現。反壟斷豁免、共同檢查點、誰先少訓練一輪，一篇長文解決不了。
中國這段不是附錄，是調速能不能做的前提
Amodei 把民主國家內的調速，上限設在美國相對威權政體、主要是中國共產黨相關項目的領先幅度。慢超過這個幅度，未調速的對方就會超前。他同意美國財政部長 Bessent 的判斷：中國領先會對美國與世界構成嚴重危險。那些項目會承擔美國公司正在小心避免的對齊風險；就算避開，也可能用 AI 驅動的無人機在軍事上壓過民主國家。
守住領先的三件事他寫成清單。不要賣強大 AI 晶片或半導體製造設備給中國，並打擊晶片走私與境外機房遠端租用；晶片會是中國 AI 實力的主決定因素。打擊威權國家公司未經授權的 知識蒸餾，因為蒸餾能用遠低於獨立研發的成本追近。強化公司安全、防止模型權重失竊。他判斷若執行得好，未來 3 到 5 年——AI 在地緣上最重要的窗口——美國領先會明顯拉開。這不是新立場。就在稍早公布的威脅情報裡，Anthropic 指 阿里 1.51 億次蒸餾，Kimi 與 DeepSeek 把使用者請求轉給 Claude。長文把那份指控接進調速條件：沒有蒸餾執法，民主國家內部放慢，等於幫別人免費補課。
全球那一層他寫得很冷。必須與中國合作，也不能天真。若美方大幅自我約束、中方背叛，AI 強到可以改寫地緣平衡。任何協議要嘛查核鐵證，要嘛窄到背叛也不至於在軍事上致命。他猜兩邊都會有這種焦慮。近端任何全球調速，都該先保住美國與盟友的領先。
四層由易到難，他用限制飛彈數量的 SALT 條約當第三層的比喻。
| 層級 | 內容 | Amodei 自己的可行性判斷 |
|---|---|---|
| 1 | 禁止狹窄且明顯危險的用途，例如用 AI 製造生物武器或允許使用者這樣做 | 大概做得到，因為對誰都沒好處 |
| 2 | 雙方發布前測試網路、生物、對齊等急性風險，可走全球標準機構 | 機構本身可能成立，長牙齒難；秘密軍用模型更難查 |
| 3 | 對遞迴自我改進設「速限」，從極快降到只是很快 | 難，但剛好在可能的邊緣；戰略優勢讓得不多 |
| 4 | 全面調速甚至暫停 | 支持拿出來談，近期極不可能；背叛的報酬太大 |
就算簽不成正式協議，改變非正式規範也有一點價值：分享遞迴自我改進與模型未對齊的資訊，說服所有人魯莽不符合自身利益。這是全文最軟的一句。它沒有驗證機制。
誰立刻接話，誰罵這是監管俘虜
BBC 引 Elon Musk 寫「Dario is right」。同一篇也寫，Musk 曾稱 Anthropic「邪惡」，語氣是在五月一筆 150 億美元算力交易之後轉過來的；Grok 仍是他那邊的產品。Hugging Face 執行長 Clement Delangue 則宣布啟動 Open Alignment Initiative，並說希望成為 Amodei 提議的駐點評測員之一。被 OAI-HF 打過的那一方，選擇站進「進實驗室看管線」這條線，而不是只追責。
批評同樣具體。投資人 Chamath Palihapitiya 寫：Dario 是在主張停掉 開放權重、把龐大技術與經濟權力集中到 Anthropic。記者 Brian Merchant 在 TechCrunch 引述裡說，他還沒看到一份可信、逐步的說明，解釋 AI 如何從遞迴自我改進走到殺死每一個人；類似提案「最終只會服務 Anthropic 與 OpenAI，這就是監管俘虜上場的樣子」。川普總統本週稍早的口徑沒變：若美國沒贏下 AI，處境會非常糟。The Decoder 把這句直接接到 Amodei 的全球方案前面——白宮現在要的是領先，不是速限。
商業日曆也沒有因為一篇安全長文停下來。NVIDIA 洽談在 Anthropic IPO 裡當基石投資人、最多 100 億美元，路透寫募資上看 1000 億、估值約 2 兆，時間窗口對準 11 月期中選舉前。Fortune 專訪裡 Altman 反而說 OpenAI 的上市「時機不對」，要到 2027。一邊是即將可能成為史上最大 IPO 的公司執行長，寫下讓外人進辦公室看訓練管線；一邊是競爭對手執行長，在訪問裡暗示安全協議「會發生」，同時把自家上市往後推。兩種資本時間表，配上一套還沒有第二家公司簽字的駐點承諾。
Salesforce Dreamforce 在舊金山下一週舉行。Fortune 寫 Altman 將與 Marc Benioff 同台，Amodei 也在講者名單。那會是這篇長文之後，兩人第一次有公開場合被問同一組問題：METR 或誰會拿到識別證、反壟斷豁免誰去要、6 到 12 個月的 botnet 外推有沒有內部事件可以對質。
對現在就在用 Claude、ChatGPT 或開放權重模型的人，這篇長文不會改 API 價目表，也不會讓這週的程式變慢。它改的是採購與風控可以問的問題。以後可以問供應商：你們有沒有常駐第三方、對方有沒有公開不利發現的契約權、遮罩清單寫了什麼。也可以問開源這邊：晶片出口與蒸餾執法若真照 Amodei 寫的執行，追近前沿的成本會不會從「少訓練幾個數量級」變成「沒有教師模型可以抄」。Amodei 文末仍寫他相信 AI 能大幅提升人類生活品質，父親死於幾年後才被治好的病，他自己也活過五十年前治不了的早期癌症。欲望沒減。條件是用對的方式建造，以及——只要時間真的被用在對齊、可解釋性與營運紀律上——值得刻意把能力增速踩慢一檔。
能立刻核對的不是全球條約。是識別證有沒有發出去、合約有沒有讓評測員把難看的結論公開。那一步若沒發生，後面三層都還只是一篇執行長可以隨時再寫一篇來修正的網站文章。