Demis Hassabis 這次丟出的，不是又一篇抽象的安全宣言，而是一個帶有機構設計味道的前沿 AI 治理藍圖。Google DeepMind 這位執行長公開主張，美國應該建立一個類似金融業 FINRA 的標準機構，專門為 frontier model 設計共通評測協議；一開始先走自願參與，之後再轉向強制，並在必要時協調整個產業放慢腳步。對近兩年一直在「模型很危險，所以要更小心」與「不要扼殺創新」之間來回打轉的監管辯論來說，這是少數直接回答「那到底誰來管、管什麼、怎麼管」的方案。
Hassabis 的核心判斷沒有變。他仍認為 通用人工智慧 可能在未來幾年內逼近，衝擊規模可能像工業革命的十倍，速度也可能快上十倍；但這回他把重點從末日式口號改成制度工程。他提出的機構將由業界出資，持續更新 benchmark 與評測流程，替最前沿的模型建立一套外界可對照的風險語言。更敏感的是，這個機構不只負責測，還可能在風險升高時協調減速。換句話說，Hassabis 想補上的不是一份新聲明，而是一塊介於公司自評、白宮倡議與正式立法之間的中介層。
這也是為什麼這條消息值得注意。前幾天站內才寫到白宮與五家前沿實驗室衝刺 8 月 1 日大限，越獄嚴重度 CJS 評分要把 AI 安全從口頭警告變成共同語言，焦點是先替模型安全找到可以共用的量尺；另一篇193 國在日内瓦坐上同一張 AI 治理桌後，聯合國科學小組用第一份報告把「誰在決定未來」攤在陽光下則把問題拉到全球協調層。Hassabis 這回等於再往前補了一格：如果大家都同意前沿模型需要共同評測，那麼負責產出評測規則、更新門檻、決定何時該升級處置的單位，到底長什麼樣子？
| 爭議點 | Hassabis 提案怎麼回答 |
|---|---|
| 風險標準誰來定 | 建一個類 FINRA 的常設機構，專門維護 frontier model 評測協議 |
| 會不會一開始就過度管制 | 先採自願參與，再視情況轉為強制 |
| 小團隊會不會被大公司用監管卡死 | 非前沿模型、學術研究與新創可先豁免 |
| 如果風險突然升高怎麼辦 | 機構不只測試，也可協調產業減速 |
真正尖銳的地方，在於這套設計把「frontier」的定義權和 benchmark 的解釋權，推成整個產業下一輪權力中心。只要評測開始跟發布節奏、採購信任、雲端合作甚至保險條件綁在一起，誰決定哪些能力算高風險、哪些 failure mode 要先過關，就不再只是研究問題，而是市場准入問題。Hassabis 強調新創和學界應被豁免，明顯是在預先回應監管俘獲的批評；但另一面是，只要邊界畫得不夠清楚，大公司仍可能比小公司更有資源參與規則制定，最後把「安全」變成一種合規護城河。
這個提案也和 DeepMind 自己的位置有關。Google 一方面是最積極推進前沿 大型語言模型、多模態與代理系統的大公司之一，另一方面又越來越需要說服政府、企業客戶與國際社群，相信更強的模型不是失控賭局。從這個角度看，Hassabis 要的不只是更安全的產業，而是一種能讓前沿研發持續往前、又不至於被全面政治反彈打斷的制度緩衝區。
所以這條新聞的重點，不是又有一位 AI 大佬呼籲大家謹慎，而是前沿實驗室終於開始把監管語言從「原則」翻譯成「機構」。接下來真正值得觀察的，不是華府會不會立刻照單全收，而是 Google DeepMind 是否會把這套藍圖推進成更具體的政策聯盟、評測草案或跨公司試行機制。只要沒有這一步，所謂 AI 版 FINRA 仍只是漂亮概念；但如果這一步真的開始，前沿模型發布前要先過哪一套關、由誰說了算，產業很快就會進入新階段。