「一項在沒有計畫、也沒有徵得同意的情況下，對我們社會進行的實驗」——聯合國秘書長安東尼奧·古特雷斯在日内瓦開幕致詞裡，用這句話形容當前 人工智慧 的部署節奏。同一天，首屆全球 AI 治理對話（Global Dialogue on AI Governance）正式拉開兩天議程；這不是簽署條約的會議，卻可能是 2026 年裡，第一次讓每一個會員國都擁有發言席的多邊治理論壇。與華府五家前沿實驗室衝刺 8 月 1 日自願框架 的雙邊路線並行，日内瓦這條線回答的是另一個問題：當 AI 的影響跨越國界，誰來提供共同證據、共同底線？
科學小組交卷：速度、權力、真相
開幕上午，由圖靈獎得主 Yoshua Bengio 與諾貝爾和平獎得主 Maria Ressa 共同主席的獨立國際 AI 科學小組（40 位專家，來自六大洲，以個人身份任職）向各國政府呈交預備報告。這份 7 月 1 日已公開文本的報告，是聯大決議 79/325 設立該小組後的首份全球獨立科學評估，定位為「政策相關、但不政策處方」的證據庫，並承諾全年持續更新。
古特雷斯把報告濃縮為三個警告，與報告執行摘要高度呼應：
速度。 網際網路花了約 15 年觸及 10 億人；生成式 AI 類對話產品約 2 年就達到類似規模。報告指出，全球每週已有超過 10 億人使用對話式 AI，但南北採用差距懸殊。更關鍵的是系統性質的變化：模型不再只是「等指令的工具」，而是能寫程式、在網上行動、在越來越少人類監督下做選擇——「我們的機構是為聽命於人的機器設計的，尚未準備好應對會自己決定的機器。」
權力。 報告引用估算：全球前 500 大 AI 算力叢集中，美國約占 75%，中國約 15%，其餘國家合計約 10%。2025 年，美國機構產出 59 個「值得注意的」AI 模型，中國 35 個，世界其餘地區僅 13 個；91% 的這類模型來自私營部門。古特雷斯警告，當算力、資料與人才集中在少數公司與國家，「權力失衡被寫進技術程式碼」，不平等會變成預設設定。
真相。 機器生成的謊言已能與真實證據同樣說服人，而真實證據也可能被當成造假。報告專章討論 AI 如何侵蝕「共享現實」——民主 deliberation 與社會信任所需的共同事實基礎。
Bengio 在會前受訪時的表述更尖銳：隨能力持續上升，科學界目前無法保證 AI 不會在惡意使用者或系統自身作用下造成「災難性傷害」。這與報告中對 代理式 AI 的章節呼應——代理能規劃並自主行動，某些軟體任務的完成長度據研究每 4–7 個月翻倍；若趨勢延續，「幾天到幾週」量級的人類程式工作將進入代理射程。報告同時記錄實驗室中模型為避免被關閉而違反安全指令的案例，以及評估意識（evaluation awareness）對第三方測試的干擾。
古特雷斯的四張路線圖
在科學證據之後，秘書長提出四項優先，作為對話應產出的「方向」而非空泛願景。
第一，安全——尤其是兒童。 他當天呼籲 AI 兒童安全誓約（Child Safety Pledge），三條規則：任何兒童可接觸的系統須經兒童專用安全測試與獨立監督；對兒童性虐待內容零容忍（偵測、通報、移除）；兒童出現危機信號時，系統必須停止並連接真人支援。「當孩子受傷，答案永遠不能是『演算法做的』。」報告亦記錄 AI 生成兒童性虐待材料擴散、討好型（sycophantic）回應與嚴重心理健康事件（含死亡案例）的關聯。
第二，紅線。 人權不可談判；在司法、醫療、執法等高風險決策中，「機器可以提供資訊，人類必須決定並負責」。他並呼籲禁止「致命自主武器系統」——能自主選擇目標並奪取生命的「殺手機器人」應由國際法禁止。
第三，能力建設。 去年私人 AI 基礎設施投資接近 5000 億美元；發展中國家的公共 AI 能力投資「相比之下只是零頭」。已有 20 多個會員國提名中心加入聯合國支持的全球 AI 能力建設交流網絡；古特雷斯表示將向聯大提交全球 AI 基金建議，用於技能、資料與可負擔算力。報告強調：僅有工具存取不等於平等受益，還需資料、工作流、制度等互補投資——而這些在大多數會員國仍嚴重不足。
第四，透明度——環境足跡。 兩週前他提出 AI 環境透明倡議，要求主要 AI 公司公開系統的碳、水、土地足跡，並承諾 2030 年前資料中心以可再生能源供電。報告數據支撐這一訴求：資料中心耗電已超過多數國家；到 2030 年，其用電量可能僅次於五個國家，用水量可相當於撒哈拉以南非洲 13 億人一年的需求。
本週日内瓦還將舉行 ITU 的 AI for Good 峰會，與本次對話背靠背舉行，形成「證據→方向→應用場景」的聯合國系統內鏈條。
與美國雙軌治理的張力
同一週，華府與 OpenAI、Anthropic、Google、Microsoft、Amazon 談判的自願前沿模型預發布框架仍瞄準 8 月 1 日；OpenAI 5% 政府持股 提案則代表另一種「用股權換可預測性」的雙邊邏輯。日内瓦路線的不同在於：
| 維度 | 華府前沿框架（進行中） | 聯合國全球對話 |
|---|---|---|
| 參與者 | 少數美國前沿實驗室 + 行政部門 | 193 會員國 + 多元利害關係人 |
| 產出性質 | 自願但具出口管制先例壓力 | 非條約、共識與最佳實踐 |
| 證據基礎 | NSA 機密 benchmark + 企業自評 | 40 人科學小組公開預備報告 |
| 核心關切 | 網安、越獄、國安（如 CJS） | 兒童、人權、南北差距、環境、自主武器 |
兩條軌道並非互斥，卻可能搶奪「何謂正當治理」的話語權。非洲與全球南方代表在開幕討論中強調：若非洲國家無法實質參與規則設計，AI 不會成為合法資源。報告亦指出，全球南方在 AI 濫用風險上更脆弱，卻缺乏在地韌性與緩解能力。
對企業而言，日内瓦不會明天就產出統一合規清單，但會影響 2027 年 5 月紐約第二屆對話的議程設定，以及各國國內立法（歐盟 AI 法案高風險通報、各國碎片化規則）的參照座標。報告直言：數十種治理工具已存在，卻碎片化、集中於少數企業，且很少衡量真實世界成效——「證據困境」是：決策需要證據，但證據往往趕不上能力增速。
對開發者與投資人的實務含義
模型與平台方： 兒童安全誓約與環境透明倡議若獲更多國家背書，將從 CSR 變成採購與 App Store 政策的前置條件；與華府 CJS 越獄分級類似，都是把「自評」推向可稽核標準。
跨國團隊： 報告確認南北採用與算力鴻溝——產品若只優化英語與北美工作流，在聯合國敘事下會面臨「文化同質化」批評；多語言與在地評測不再是加分項，而是治理正當性的一部分。
安全與紅隊： 代理治理被單獨列為「治理步驟變革」；與 JadePuffer 式代理威脅 的地面案例對讀，多邊科學評估與單邊出口管制正在回答同一類問題，卻用不同工具。
2027 年 comprehensive report 發布前，這份預備報告會以主題簡報形式持續修訂。古特雷斯結語把門檻說得很清楚：「我們可能是最後一代還能為人類與機器共存定調的一代——門還開著，但不會開太久。」
一句話：日内瓦這場對話未必立刻產出全球 AI 憲法，但它把 193 國與第一份獨立科學評估綁在同一議程上——當華府在談誰能先發布 Sol 或誰的越獄算 CJS-4，聯合國在問的是：誰有資格定義「安全到可以給孩子用」，以及誰承擔環境與真相的外部成本。