Hinton 週一說失控不是 1% 也不是 99%：川普回「誰贏 AI 誰就贏」，Sacks 叫兩家自己先停

被稱為 AI 之父的 Geoffrey Hinton，在澳洲廣播公司 Radio National Breakfast 把話說死：週末那封要產業「調速」的長文，是「非常合理的警告」。他接著給了一個故意不漂亮的區間——失控風險「不是 1%，也不是 99%，介於兩者之間」——並說多數專家現在相信，超過人類的系統會在十年內出現，沒人知道能不能壓得住。壓不住之前繼續蓋，他認為是愚蠢的。

這句話之所以會變成週一的主新聞，不是因為又多了一位名人按讚。週末已經有 Anthropic 執行長 Dario Amodei 的長文、OpenAI 執行長 Sam Altman 的跟進、Elon Musk 的「Dario is right」，以及 Google DeepMind 的 Demis Hassabis 說「方向對了、細節還要磨」。週日開始，華府用另一套語言把同一份提案拆開：總統講「誰贏 AI 誰就贏」，眾院議長拒絕開緊急立法會，白宮 AI 顧問直接寫「別假裝你們需要任何人的許可」。Hinton 週一早上是在這條裂縫上開口，不是在真空裡覆誦執行長文稿。

他點名的解法也跟實驗室不一樣。Amodei 要的是駐點評測員、反壟斷豁免、以及民主國家對中國的晶片與知識蒸餾圍欄，細節已寫進前一天那篇單方面讓評測員進門的長文。Hinton 對澳洲聽眾講的是兩件政府現在就能下令的事：任何新的聊天機器人模型發布前必須先測；任何在網路上接訂單、你寄胺基酸序列它寄蛋白質回來的化學公司，都必須檢查自己是不是在做危險病毒。他說政府走得太慢，只剩幾年。他同時拒絕全面停工，理由很具體：現在的系統已經在幫放射科讀片、在幫忙做藥物設計。

他們可以規定，任何在網路上製造化學品的公司——你寄一段胺基酸序列給它，它把蛋白質寄回來——都必須檢查自己是不是在做危險病毒。

被問到超級智能怎麼造成不可逆傷害時，他說路徑多到列不完：工程病毒、大規模操縱、把銀行、電力與供水系統打掉，若系統碰到核武控制鏈還有核武。安全測試裡他已經看過模型威脅勒索，也看過欺騙。這些不是新指控，是他把實驗室內部報告裡反覆出現的行為，講給早間廣播聽眾聽。

週末簽字的人，週一被問的是：你們自己先少訓一輪嗎

Amodei 長文的核心句子沒變：必須放慢提升模型能力的速度；調速不是停訓；第一步 Anthropic 單方面讓第三方評測員拿到接近員工的權限。Altman 在 X 寫「I agree with Dario that we need to pace the frontier」，並說獨立評測員、權限比照員工「是好主意，我們也會做，稍後再公布細節」。Musk 只回三個字量級的「Dario is right」。Hassabis 的句子比較滑：「Dario 的文章指向正確的路。細節需要磨，但方向對了，足以面對這個關鍵時刻。」他把這件事接回 DeepMind 最近在推的產業標準機構。微軟執行長 Satya Nadella 另寫一條原則句：「如果我們建造的 AI 不能幫助人類、也不能留在人類控制之下，就不值得追求。」他歡迎「把對齊當成設計目標所需的刻意調速」，並預告第一方 MAI 模型的行為準則會開放公眾諮詢。截稿時，微軟官網上能獨立核對到的仍是給企業客戶用的 AI Services Code of Conduct（2026 年 5 月 1 日更新到 4.0 版），不是這份新預告的 MAI 模型文本。

這些人週末聽起來像站在同一側。週一被拆開的，是「誰有權決定節奏」與「先放慢要不要先換法規」。

The Register 把這份週末共識讀成監管俘虜：幾位執行長先定義政府該採用的規則，再要求政府用這些規則管他們自己。Gartner 研究長 Daryl Plummer 在澳洲 IT Symposium 主題演講裡，對 Amodei「會放慢」這句話的反應更短：「I will believe that when I see it。」他同時丟出一組跟安全敘事平行的商業數字：軟體商對客戶喊 AI 能帶來 50% 生產力，客戶端回報約 16%。The Register 寫他不相信億萬富翁會突然變利他。

SDA Bocconi 分析師 Dion Hinchcliffe 在 X 列了四種讀法，而且提醒不要預設公開說法就是全部：他們在實驗室看到了真的讓人害怕的東西；燒錢競賽開始對大家都不利；下一個 10 倍算力換來的能力增益變小，繼續對砸的誘因塌掉；節奏放慢加上政府發牌、算力管制與出口限制，對已經站在前沿的人最有利。四種可以同時成立。沒有一種需要先通過「他們突然變善良」這關。

白宮顧問把長文改寫成一張可對帳的清單

David Sacks 的長帖是這輪華府回擊裡最完整的一份作業說明。他的職位是白宮 AI 顧問，不是實驗室發言人。他先承認：Amodei 寫了必須調速，Altman 同意了。他的回答是「go ahead」。

理由寫得很白。以市占、營收成長、模型能力來看，兩家已經是前沿智能的雙寡頭；他們自己還說領先正在因遞迴自我改進而拉開。Sacks 寫他在實驗室裡看不到他們看到的東西。若未發布的模型已經可怕到他們認為該放慢，他支持他們負責任。接下來是一連串「別假裝」：別假裝需要任何人的許可；別假裝反壟斷法必須暫停好讓你們組卡特爾；別假裝需要一套凌駕產品責任的監管核准；別假裝 METR 獨立，它跟 Anthropic 的投資人與員工纏在一起；別假裝你們需要同一批評測員去管還沒站上前沿的對手。

最重的一句是動機。產品若促成真正嚴重的網路安全攻擊，兩家會面對巨大的產品責任曝險；市場已經在懲罰行為不可預測、未經授權的模型。Hugging Face 那次之後，用一點點原始能力換可靠與可預期，「叫它對齊也行，那也只是把客戶要的東西給客戶」。他點名 Bernie Sanders「全部關掉」不是聰明的監管對話，也寫中國極不可能加入全球協議。最後的測試條件公開掛在帖子結尾：去調速吧，前沿是你們在訂的；最簡單的「不要建造超級智能」方法，是你們同意不去建造。把你們偏好的監管框架當成這麼做的代價，看起來會像對公眾與政治體系勒索。做了，下一輪討論會有善意；不做，我們就知道這只是又一次監管俘虜，或選舉季心理戰。

前 FTC 主席 Lina Khan 從另一邊補了一刀：執法者本來就能用現有法律追究製造、發布危險、未經檢驗或有缺陷產品的公司與執行長，「討論新法制不該讓人忘記：法律書上沒有 AI 豁免」。參議員 John Cornyn 則跟 Sacks 同一側：開發者想放慢自己的產品，隨時可以；可以確定的是對手不會停，包括國家對手。

這組句子直接打在 Amodei 長文第二步的法律前提上。Amodei 寫過：幾家互相競爭的實驗室要談發布節奏，很容易撞上反壟斷，所以美國政府至少得發窄幅豁免，讓特定種類的安全對話合法。Sacks 的讀法是：那不是安全作業，那是要政府批准雙寡頭協調產量。兩種讀法用同一份文本。差別在誰先動、法規是條件還是事後追認。

川普在愛爾蘭公開場合的句子更短。金融時報引他說，美國正領先中國，「坦白說我想保持這樣，因為誰贏 AI 誰就贏」。他接著把末日警告歸給「不該把這些事端出來的負面勢力」，「他們在講不會發生的事」。眾院議長 Mike Johnson 上 CNN 時把國會緊急立法直接拿掉：若國會衝進去開緊急會管 AI，「我們會把賽局輸給中國」。他要大家別恐慌，新技術該像過去一樣處理，「同時不要扼殺美國創新」。他也把球踢回公司：實驗室隨時可以自己停，國會沒那麼懂前沿細節，而且「他們對護欄該長什麼樣，根本沒有共識」。他提的替代方案是總統、國會議員與真正拍板的實驗室負責人開會。Axios 把這場訪問讀成：議長要解決方案，但國會不領頭。

Palantir 執行長 Alex Karp 在 CNBC 用敵國把暫停鍵拆掉：「如果我們沒有對手，我會非常贊成完全暫停這項技術，但我們有。」中國國家主席習近平則在新德里金磚峰會講另一條平行線：中國要牽頭建立金磚開源 LLM 社群、數位生態雲平台，並協助發展中國家做大型語言模型協作。Hinchcliffe 的預測因此變得很便宜：中國會把美國放慢讀成歷史機會，「他們不會停」。Amodei 自己的長文其實早就把這點寫成調速上限——民主國家能慢多少，取決於相對中國的領先幅度——所以華府用中國打回來，並不是從外部塞進一個他沒想過的變數。他要的解法是晶片、蒸餾與權重失竊三道圍欄；華府現在給的是「那你們自己先慢，法規免談」。

賣晶片的人把警報讀成開賣場，企業端同一天聽到模型壽命大約半年

NVIDIA 執行長黃仁勳在高盛科技大會上的句子，被 DIGITIMES 拿來當週一這場辯論的供應商反方。他說今天之所以滿場網路安全討論，是因為產業準備推出產品，「還有什麼比製造問題更能創造需求？」誰不希望市場對自己的產品歇斯底里、在門口排隊？他接著把資安標成 AI 下一個主要用例，而且會持續跑，是一門新生意。Axios、Forbes、Bloomberg 都記了同一場。黃仁勳有直接利益：限制愈少、訓練與推論堆得愈快，晶片賣得愈多。同一週，NVIDIA 還在洽談再押 Anthropic 最多 100 億、寫進 IPO 基石。一邊是實驗室執行長要政府幫忙把節奏釘住，一邊是最大供應商把安全警報讀成開賣場，中間還有一張可能的百億支票。同一條供應鏈上同時掛著兩張報價單。

Gartner 在澳洲 Symposium 的另一場，把「實驗室說我們會放慢」接到採購端已經在痛的地方。Plummer 說對這些供應商的信任「現在還不值得給」：他們不是企業級，不懂企業條款、企業責任、企業要的一致性與延續性。模型壽命大約六個月；你若停在第一版，他們很快就不理你。「單憑這點就說明他們還沒準備好進企業。」創新節奏失控，「可悲的是你又不能不跟」。Kristin Moyer 補上 CIO 調查：86% 的 CIO 認為 AI 製造的風險長得比它創造的價值快，因為早期成功會製造 IT 部門消化不了的需求。她稱為「隨意消耗」——員工在不該用的時候用。40% 的員工遇過 AI slop，釐清通常要兩小時；換算到一千人公司，一年大約 900 萬美元的工時。AI 代理數量很難數，「AI 從你已經買下的產品裡鑽進來」。供應商「急著把 AI 變現」，要你到處上智能體化 AI，或多買 token。Plummer 對 AIOps「一鍵修復」的評語更硬：方向對、動機錯，那是行銷，不是幫你裝對的解法。

這組數字跟 Hinton 的 1%–99% 不在同一張表上，但打在同一個採購決策上。若實驗室真的把發布節奏拉寬，企業最直接的好處可能不是滅種機率下降，而是模型別六個月換一次、條款與責任開始長得像 ERP。若他們只發表宣言、版本週期不變，Gartner 這場演講等於預告：風險還是會比價值長得快，IT 部門仍會被內部需求追著跑。Moyer 有一句 CAP 部門會記住的俏皮話：傳統 ERP、CRM 留得下誰授權的軌跡，「AI 不一定留證據。誰該去坐牢，不容易知道。」沒有數位證據系統，出了事 CIO 仍會被究責。「你的答案若是『AI 做的』，你就有麻煩了。」他們給企業的三個動作是：設一個內部「AI 中央銀行」看系統性影響；用「守護代理」觀察並有權殺掉失控代理；組專門拆 AI 禍的災難復原隊。這跟 Amodei 要政府發的反壟斷豁免不是同一層，但比「相信執行長會放慢」更接近現在就能做的事。

Hinton 要的槓桿，跟實驗室要的法規不是同一把

把週一出現的方案攤平，會看到至少四把不同的煞車，被媒體糊成同一個「減速」標題。

Amodei 的第一把已經承諾：駐點評測員看訓練管線，不利發現不能因為難看就刪。第二把要政府讓競爭對手合法坐下來談共同安全標準與未受檢進度的上限。第三把是跟威權政府談分層協議，從禁生物武器到限制遞迴自我改進速率，他自己都說愈往上愈不可能。Hinton 的兩把更窄、也更舊：發布前強制測試，以及核酸合成訂單篩檢。眾院兩黨稍早已推Stop Rogue AI Act，要 NIST 訂代理盤點、身分與即時關停，聯邦採購先綁。Bernie Sanders 要的是暫停先進開發、禁止人造超級智能。Rishi Sunak 寫「前沿研究推進多快，重要到不能只留給實驗室」，要獨立查核與對遞迴自我改進的透明。Johnson 要的是開會，不要法案。Sacks 要的是兩家自己先少訓，法規後談。

沒有任何一把在週一被政府接起來。Hinton 的 DNA 篩檢甚至不是新戰線：生物安全現代化相關草案本來就在國會轉，合成訂單的客戶身份與序列過濾，是少數兩黨比較有機會對上的點。它不需要先解決中國會不會加入 SALT 式速度上限。它也不需要 METR 進 Anthropic 辦公室。它管的是模型若被拿來設計有害序列，下游還有沒有人把基因印出來。對一般使用者來說，這比「駐點評測員能不能看強化學習環境」更接近已經存在的工業管制。

開發者與採購這側，週一真正缺的不是更多口頭對齊。Altman 已經在全員會說過願意放慢；Fortune 專訪裡他又把今年上市劃掉，理由之一是安全與對齊這關還沒過。Pachocki 稍早也提過自願暫停或至少放慢、直到有具體安全標準。這些句子疊在一起，聽起來像共識。Sacks 設下的對帳條件卻很薄：看兩家接下來有沒有真的把下一輪前沿訓練往後挪，有沒有在沒有反壟斷豁免的情況下少發布一個更強的版本。The Register 用監管俘虜這個詞，Gartner 用「等我看見」，黃仁勳用「製造問題來創造需求」。三種懷疑指向同一處：宣言可以週末簽完，算力採購單週一還是可以照開。

Hinton 沒有幫任何一家背書作業時程。他只是把機率區間講得比 Hubinger 的「十年內滅種超過 10%」更誠實地模糊，也比執行長文稿更不給台階。1% 到 99% 不是統計，是他承認這行現在靠直覺。對聽眾來說，這比「我們會善用多出來的時間」難裝沒聽見。對華府來說，這仍不夠構成緊急立法。對兩家實驗室來說，這把球從「請政府先改規則」踢回「你們自己的訓練排程」。Sacks 已經把證偽條件寫在公開帖子裡：做了，下一輪才有善意；不做，這封長文就會被歸檔成俘虜或心理戰。