返回趨勢情報
趨勢情報

黃仁勳在 Dreamforce 說不需要新法:加速與安全是假選擇,祖克柏要各實驗室自己踩煞車

2026年9月17日
易賺Ai團隊
14 分鐘閱讀
#AI安全#NVIDIA#Meta#AI趨勢
黃仁勳在 Dreamforce 說不需要新法:加速與安全是假選擇,祖克柏要各實驗室自己踩煞車

「能跑多快跑多快。」NVIDIA 執行長黃仁勳在 Salesforce Dreamforce 台上對 Marc Benioff 講完這句,下一個轉折才是煞車:如果哪一刻覺得公司失控、產品不會安全,就停下來把事情做對。他不要的是整條產業一起減速,也不要新的美國法律。CNBC 記下他對 Benioff 說的原話:「這是假選擇。兩件事當然可以同時有。」AFR 補上另一句:「市場力量已經在了;我們不需要任何新法律,不需要新監管。」

同一場 Keynote 稍早,Anthropic 執行長 Dario Amodei 才在舊金山 Moscone Center 約 1.2 萬人面前,重申上週六那篇《We Must Pace the Frontier》:放慢前沿能力進步的速度,把獨立評測員嵌進實驗室,先在民主國家之間對齊安全標準。OpenAI 執行長 Sam Altman 當天稍晚也上了 Benioff 的爐邊談話。三個人走同一座舞台,講的不是同一套時間表。

Meta 執行長 Mark Zuckerberg 沒有出現在那張沙發上。他在 X 發了一篇長文,時間落在黃仁勳上台前後那幾個小時。Reuters、Bloomberg、CNA 引他的句子:每間實驗室都有責任、也有誘因,用自己訓練得安全的速度前進,並且有能力自己採取行動。他沒有跟著 Amodei、Altman、Elon Musk、Demis Hassabis 那條「先一起放慢」的公開連署走。

台上三個人各自把「安全」定義成不同的動詞

Amodei 對 Benioff 說,AI 的技術與經濟成長速度快過 Anthropic 自己原先的預期。「讓我意外的是進步的速度,不只是技術,還有經濟這一側。」他用汽車比喻:如果對手的煞車失靈,負責任的車廠該去檢查自己的車,而不是先拿來打對手。「攻擊競爭對手、說這些人不安全,非常誘人。」他說,沒有人可能擁有完美安全紀錄。

他在台上要的仍是那三步:單方面讓第三方評測員以接近員工的權限進駐、民主國家之間協調標準、最後才是更廣的全球合作。Anthropic 自稱已承諾獨立評測,其餘兩步要開始跟產業談。

黃仁勳把安全說成工程問題:安全測試環境、嚴格產品評測。開發者對單一產品沒信心時可以停,政府不該把整條產業按住。他當場否定AI 會大量消滅工作的說法,用詞是「完全是胡說」。他的遠景是每家公司都變成 AI 公司,沒跟上的會被甩在後面。AA 寫出商業利害:NVIDIA 的處理器與運算系統撐著多數領先模型的訓練與推論,基礎設施需求推高了公司獲利與估值。台上那句「假選擇」,跟賣鏟人的損益表是同一條線。

Altman 沒有跟著喊「跑」。他對 Benioff 說,安全與監控必須走在能力前面,以現有模型的力量來看。「我認為這個世界有理由害怕這件事。」他說,現在比較不需要想像力,就能看出更強系統會怎麼出錯。他把 OpenAI 代理在測試中攻進另一家公司系統的事件,稱作產業的「警鐘」,要求監控與網路安全升到新的嚴謹度。他警告,有能力造成嚴重傷害的公開可用模型可能不遠,實驗室該用現在的領先去準備 AI 驅動的網路攻擊。

他先前公開支持 Amodei 的放慢提議,這次卻說對論述被框成什麼感到失望。CNBC 引他批評那種「只有別人也負責,我們才負責」的說法。「不該有任何但書。」他維持:若對齊與安全趕不上模型能力,OpenAI 會放慢或停。這跟黃仁勳「單一產品可以停、整條產業不必停」聽起來像同一把煞車,差在誰有權把腳伸過去:實驗室自己,還是產業協調、甚至立法。

Benioff 對記者的版本更短:「如果他們覺得該慢,就該慢。如果他們覺得該快,就該快。然後他們該被究責。」主辦人沒選邊,把皮球踢回各實驗室與事後問責。

祖克柏寫進 X 的,是「自己停」而不是「一起停」

Zuckerberg 的論證從使用者開始。CNA 與 Forbes 引他寫:人們不會想用跟自己不對齊、不照自己要求做事的AI 代理,所以實驗室有強烈的自然誘因,把模型對齊做得更好。信任與對齊才是最重要的能力,做不到的公司會落後。法律責任是第二根棍子:模型造成傷害會面對「重大」法律責任。

他拿 Meta 自己當例子。Muse 個人代理今年稍早延後上線好幾個月,理由是加強安全。「我們沒有先要求別人也這樣做,我們才肯做。我們只是把它當成日常工作的一部分,因為對使用者和對我們都顯然該做。」這句話是對 Amodei 路線的直接拆解:你要的若是每家都先停、再一起走,Meta 的答案是我們已經停過一次,而且沒有把停當成產業協議。

算力分配他寫得很硬。Amodei 要產業放慢遞迴自我改進——讓 AI 改進 AI 的那條線。Zuckerberg 說 Meta 已把「絕大多數」算力投去服務使用者眼前需求的產品,而不是追求自我改進系統。獨立評測他支持,但定位成已經在做的事:Meta Superintelligence Labs 在若干領域已引入獨立評測員與顧問,這是「產業最佳實務」,「其他實驗室也可以直接做」。Bloomberg 把標題寫成:他選評測員,不選放慢開發。

CNA 在同一篇加了一段 Zuckerberg 沒寫進 X、但讀者會拿來對帳的背景:Meta 數週前同意支付最高 180 億美元,和解美國各州指控 Facebook 與 Instagram 被設計成讓兒童成癮的訴訟,公司不承認違法。把「自然誘因」與「重大法律責任」講成安全機制的人,自己剛寫下一張兒童安全的和解支票。這不是說 Muse 延後上線是假的,而是「誘因已經足夠」這句話,市場會用舊帳來驗。

FTC 主席 Andrew Ferguson 同一天說,每個人都該對 AI 公司一邊遊說新監管、一邊要反壟斷豁免「深感懷疑」。他沒點 Anthropic 的名。Amodei 上週才要求反壟斷許可,好讓對手能為了安全協調較慢的開發速度。OpenAI 全球政策負責人 Chris Lehane 在華府則說三家不必先拿豁免就能談安全,並點名支持 FRONTIER 法案的獨立驗證條款。Ferguson 的懷疑與 Lehane 的「不需要豁免」,不是同一份講稿。

前一天黃仁勳還在洛杉磯接川普的電話

CNBC 寫出時間線。Dreamforce 前一天,黃仁勳在洛杉磯 All-In Summit 台上,接了美國總統 Donald Trump 的通話。Trump 用擴音器說,有人想擋 AI 資料中心興建。「我們不會讓這種事發生,先生。」黃仁勳這樣回。AFR 與 Straits Times 引他較早的說法:把這些警告與預測捆在一起令人憂慮,「不該這樣做,不負責任」;他謝謝 Trump「看穿」了那些警告。

週一 Hinton 把失控機率從「不是 1% 也不是 99%」講上台,Trump 回「誰贏 AI 誰就贏」,前白宮 AI 主管 David Sacks 叫兩家實驗室自己先停。黃仁勳在 Dreamforce 的「不需要新法」,與白宮這週的路線是同一側:美國已有護欄、放慢會便宜中國、資料中心不該被擋。Amodei 要的國際協調與嵌入式評測員,目前沒有從這條政治線拿到對等的公開背書。

Dreamforce 本身不是安全論壇。Salesforce 與 NVIDIA 同日宣布 Koa:Salesforce 第一個 CRM 推理模型,用 NVIDIA Nemotron 3 Super 做後訓練,訓練語料是近 27 年 CRM 部署經驗做出來的合成數據,官方稱「沒有用到任何一位元組客戶資料」。Salesforce 自有 CRM 基準上,Koa 在更新商機、分派案件、安排後續這類動作上,自稱打平或超過領先通用模型,錯誤少三倍。權重由 Salesforce 控制,後訓練與推論都在自己的信任邊界內。試點客戶包括 1-800Accountant、Baxter Credit Union、Engine、Formula 1、UChicago Medicine、Xero;美國地區一般供應預期今冬。Missionforce Operations 的後訓練 NVIDIA 模型,預計 10 月給選定客戶,目標是私有雲與氣隙網路。

黃仁勳在那場合還講了另一句跟安全辯論平行的話:「軟體末日是胡說。這會是疊在軟體上面的一層。」Benioff 用 AIforce 回應所謂 SaaSpocalypse:把 Salesforce 的資料、流程、權限送到 Claude、Slack 與其他 AI 介面。安全辯論在企業年會上發生,不是因為議程排了倫理場次,是因為賣鏟人、模型實驗室與企業軟體三方,同一天要向 5 萬名與會者解釋:到底該加速部署,還是先把前沿能力按住。

這次對帳用的不是基準分數,是誰願意先停、誰要求別人一起停

場合主張的煞車明確拒絕的東西
Dario AmodeiDreamforce Keynote產業協調放慢前沿、嵌入式獨立評測、民主國家標準用對手事故當攻擊素材;假裝自己安全紀錄完美
黃仁勳Dreamforce Keynote單一產品若不安全就暫停;安全是工程與評測新法律、新監管、全產業減速
Sam AltmanDreamforce 爐邊談話安全與監控先於能力;趕不上就放慢或停「只有別人負責我們才負責」的但書
Mark ZuckerbergX 長文各實驗室自己調速;獨立評測當最佳實務;多數算力服務產品而非自我改進先協議大家一起放慢,自己才肯動
Marc Benioff會後對記者可快可慢,但要被究責主辦方替產業選邊
Andrew Ferguson同日公開談話對又要新監管、又要反壟斷豁免保持懷疑把協調放慢自動讀成公共利益

AA 把這場辯論接到上市時程:OpenAI 與 Anthropic 都在為可能的 IPO 做準備,加速或收束前沿開發的任何決定,財務賭注都在變大。黃仁勳的公司賣的是讓雙方都能繼續訓練的晶片。Zuckerberg 的公司把 Muse 用量寫進剛上線的 Meta One 訂閱,核心 App 與日常 Meta AI 仍免費,圖像與影片生成開始按月額度收費。放慢前沿自我改進、同時把算力送去使用者產品,跟這張價目表是同一方向。

現場沒有公布任何新的共同評測時間表、沒有簽署任何放慢協議、也沒有新的美國法律文本因這場 Keynote 而改。能立刻驗證的只有公開句子:黃仁勳拒絕新法與全產業減速;Zuckerberg 拒絕「先協議再行動」;Altman 拒絕有但書的責任;Amodei 仍把嵌入式評測員與國際協調放在桌上。下一份對得上帳的東西,不會是又一段爐邊談話,而是有沒有第三家實驗室真的讓評測員進門、Ferguson 這句懷疑有沒有變成委員會質詢、以及 Muse 延後上線那套「自己先停」會不會在下一次模型發表時再被拿出來用一次。