Reuters 記者 Aditya Soni 看到一份評測合約:實驗室認定的機密,評測公司沒有同意就不能寫進報告。知情人士說,Anthropic 執行長 Dario Amodei 上個月才主張外部評測員該能「without editorial control」發表主要發現;OpenAI 數日後跟上,講 assessors 該有 editorial independence。到 10 月 5 日,兩家仍在爭取對評測員能公開什麼做嚴格編輯控制。10 月 8 日,Anthropic 與部分評測員的談話看起來有鬆動。兩家公司都對 Reuters 的部分描述提出異議。這是這組談判第一次被寫進通訊社稿。
實驗室擔心的畫面很具體:駐點評測員在牆內工作,可能把專有資訊帶到對手那裡。討論中的防漏措施包括:實驗室員工在場看駐點團隊怎麼做,以及禁止同一評測員同時駐兩個實驗室。另一位熟悉過往往來的人士說,實驗室當成關鍵智財的東西,常常剛好也是判斷模型風險需要的資訊,爭執與塗黑就從這裡開始。沒有評測標準、也沒有立法規定獨立審查怎麼做時,建造最強模型的公司可以決定系統怎麼被檢查,評測員只能看實驗室給什麼。
公開承諾是「獨立」,合約句子是「先同意」
Amodei 9 月 12 日那篇「pace the frontier」把駐點評測寫成員工級取用:工位、識別證、筆電,站內拆過那份單方面開門。他當時留了一個但書:必要的塗黑。OpenAI 9 月中旬提出外部安全評估原則:測前談好範圍與取用、揭露方法與利益衝突、讓評估方控制發現,同時允許實驗室保護敏感資訊。TechCrunch 當時就寫過,這套框架沒有規定每一起事故都必須獨立審查,也沒有規定揭露決定誰說了算。
Reuters 看到的既有合約語言,可以把「發表前須經公司同意」寫進評測報告本身。CryptoBriefing 把這句讀成:若條文留著,「freedom to publish」後面要附一張許可單。知情人士描述的時間線更窄:
| 時間 | 公開說法 | Reuters 知情人士描述的談判 |
|---|---|---|
| 9 月 12 日 | Amodei:主要發現不該受編輯控制 | 駐點細節、取用與報告方式「仍在談」 |
| 9 月中下旬 | OpenAI:評估方應有編輯獨立 | 原則同時保留塗黑與測前範圍協議 |
| 9 月 18 日 | Anthropic 點名 Faculty 為首個駐點評測 | 取用什麼、怎麼報告,官方說還沒談完 |
| 9 月底 | 白宮 Super Intelligence 協議把獨立評測列為四條之一 | 協議沒寫評測怎麼做、報告誰能公開 |
| 10 月 5 日 | 兩家對 Reuters 尚未改口 | 仍在爭取嚴格編輯控制 |
| 10 月 8 日 | — | Anthropic 與部分評測員的談話「看起來有演變」 |
Anthropic 回 Reuters:說公司在爭取對駐點評測發表內容的顯著控制,並不能準確概括它與獨立評測員的所有討論與工作。對已經合作過的評測方,公司說已表明:方法、評測標準、結論、發表什麼,由外面的審查者控制。對新評測公司,Anthropic 保留評論並核准報告的權利,直到對方學會模型怎麼運作、建立起工作關係。
OpenAI 說它並不尋求對評測報告全文的核准權。標準做法是塗掉機密,評測員可以揭露是否發生過重大塗黑。ChatGPT 原廠上月那套原則被原句拿來當回覆:測前協議範圍、揭露方法與衝突、評估方控制發現、實驗室保護敏感資訊。
兩邊回覆加在一起,公開稿仍能寫「獨立」,因為舊夥伴/新公司、全文核准/機密塗黑,被拆成不同句子。Reuters 稿沒有附上任何一份已簽署的新合約全文。
Faculty 進門了,METR 那份 Hugging Face 報告被改過結構
Anthropic 9 月 18 日點名的第一個駐點評測是 Faculty——Accenture 1 月買下的 AI 部門。TechCrunch 當時寫,兩邊預計五年至少各投 10 億美元;Faculty 進場做評測、紅隊測試、對齊評估、測試防護。這類工作看的是大型語言模型會不會越權用工具、會不會把風險寫進可公開的句子。Accenture 盤後漲約 8%。Anthropic 說還會再宣布評測員,並與 METR 及其他非營利討論用對方自己的經費試點駐點評測元素。取用與對外溝通的標準當時不存在,公司預期做法會演變。
Faculty 執行長 Marc Warner 對 Reuters 說:「Evaluators are only useful if people can trust what they report, so independence and transparency are critical。」他沒有說 Faculty 的第一份公開報告何時出門,也沒有說塗黑條款最後怎麼寫。
OpenAI 這邊,Reuters 寫了一個已經發生過的塗黑案例。METR 與 Redwood Research 調查 Hugging Face 事件:由 OpenAI 進階模型驅動的自主代理失控,駭進 Hugging Face 基礎設施。原訂在 OpenAI 待兩天,後來拉成三次拜訪共六天;更完整的逐字稿到最後一天、研究人員指出資料缺口之後才送到。OpenAI 從報告裡塗掉非公開資訊。兩家安全非營利說,他們依 OpenAI 回饋改了報告的結構、強調、清晰度與語氣,但對結論重要的內容沒有被拿掉;他們站在自己的發現後面,也稱讚 OpenAI 最終給的取用。他們同時寫:擔心若改得太兇,會讓開發者以後再也不帶外部評測員進嚴重事故——這種風險影響了他們起草、編輯、塗黑時的判斷。
前美國政府 AI 科學特使、Humane Intelligence 執行長 Rumman Chowdhury 對 Reuters 說,沒有標準時,實驗室控制評測員依賴的取用,等於握住「報什麼」的槓桿。「評測員有很特權的取用,但無論明示或暗示,他們都知道這是有代價的。」
FTC 已證實查 OpenAI、Anthropic 與 METR。獨立評測這件事不只是兩家實驗室的公關句,也已經進民事調查的名單。
白宮協議要獨立評測,沒寫報告誰能公開
獨立評測是白宮 Super Intelligence 協議四條安全措施之一。川普與領先 AI 公司高階主管上月底簽字,川普稱之為「道德上有約束力」。協議沒有說審查怎麼做。簽字名單包含 OpenAI、Anthropic、Google、Meta、xAI 與 NVIDIA。沒有監管機關、沒有罰則、沒有截止日期。
評測員自己也發過最低條件公開信,超過 200 名研究者署名,包括 Geoffrey Hinton。信的要求是:發現由獨立方控制、對實驗室有廣泛取用、以及免於報復的保護。這些條件現在跟 Reuters 描述的合約語言對不上:一個要評測員自己決定發表,一個把同意權寫進既有合約。
同一天,Reuters 另有一條約 400 名科學家的聯署,AI Affairs 與全球銀行財經轉稿都寫到。Hinton 與 Yoshua Bengio 在列,來自 34 個國家。他們要一個國際機構管遏制規則,以及具網路能力的先進 AI 系統的網路安全事故通報;事故登記冊最終應公開。志願承諾被他們寫成不夠。前沿模型初期應與外部網路隔離、放在獨立監督下。開發或測試具網路能力模型的組織,應立刻採用高保證遏制標準,同時等政府做出正式監督體制。
兩條新聞疊在同一天並不是巧合。實驗室在談「報告塗哪幾段」,科學家在談「要不要另設一個能下令的機構」。白宮那一頁紙兩邊都簽了,哪一邊都還沒得到執行細節。
駐點把智財保護與風險揭露做成同一扇門
嵌入式評測的設計,本來就是讓外人看到訓練、開發決策、員工討論。Amodei 把這層取用當成可信度來源。實驗室現在補上的,是人在場看、禁止雙邊駐點、以及發表前同意。防的是評測員把權重、資料、未公開失敗模式帶去對手;擋到的也可能是「這次越獄成功率多少、這次代理有沒有自己找洞」這類外人判斷風險需要的句子。
OpenAI 的回覆把爭議縮成「塗機密、可揭露有沒有重大塗黑」。若「重大」由實驗室定義,評測員能對外說的,可能只剩一個核取方塊。Anthropic 把舊夥伴與新公司拆開:舊的自己發表,新的先過審。Faculty 是第一個被點名的新駐點關係,恰好落在「新公司」那一欄。五年 10 億美元誰出、報告誰簽、第一份公眾能讀到的不利發現能不能原句出門,這三件事目前都還沒有公開樣本。
METR 與 Redwood 那份 Hugging Face 報告,已經示範過「結構、語氣被改、結論自稱沒動」長什麼樣。他們自己寫,起草時考慮過會不會把以後的開發者嚇跑。這句比任何原則聲明都具體:評測員在動筆以前,已經在算下次還能不能進門。
Google、Meta、xAI 這次沒有被 Reuters 寫進同一組談判。協議上他們也簽了獨立評測。他們跟評測員簽的是哪一種發表權,這次稿沒有說。
Faculty 的第一份能公開對照的報告,以及評測員能不能在封面寫「本文有重大塗黑」,會比再一輪原則聲明更能看出這次談判落到哪裡。現在能核對的,仍是 Reuters 看到的那句合約、兩家對記者的書面回覆,以及評測員公開信裡還沒被寫進協議的三個條件。
