返回資訊
AI趨勢入門

卑詩省告 OpenAI 與 Altman:安全組建議通報 RCMP 被否決,停權後槍手再開新帳號

2026年9月22日
易賺Ai團隊
21 分鐘閱讀
#AI安全#ChatGPT#OpenAI#訴訟
卑詩省告 OpenAI 與 Altman:安全組建議通報 RCMP 被否決,停權後槍手再開新帳號

加拿大卑詩省與和平河南學區(School District No. 59)向加州北區聯邦法院舊金山分院遞狀,案號 3:26-cv-10743,被告是 OpenAI 執行長 Sam Altman 本人,以及 OpenAI Foundation、OpenAI OpCo、OpenAI Holdings、OpenAI Group PBC 四家實體。起訴狀的核心句子只有一句:一通電話打給皇家騎警(RCMP),Tumbler Ridge 那場槍擊就可能被擋住。檢察總長 Niki Sharma 在溫哥華記者會上把同一句話說得更白:OpenAI 已確認槍手與 ChatGPT 的對話「驚人到觸發內部審查」,這項威脅沒有通報 RCMP,隨後被駁回。

原告是省政府與公立學區。家庭求償另案進行;這份狀子追的是重建學校、精神醫療、緊急動員這類公帑,並要求法院下令改產品。OpenAI 發言人 Drew Pusateri 稱 Tumbler Ridge 是難以言喻的悲劇,公司會繼續與政府及執法機關合作、推進安全工作。公司沒有就「高層否決通報」這項指控給出逐條答辯。Sharma 說她自己沒讀過那些聊天內容:「我們要求 OpenAI 交出這些對話。他們拒絕了。我們都該問:為什麼?」

起訴狀寫進法院的時間線

2 月 10 日下午約 1 時 20 分,18 歲的 Jesse Van Rootselaar 在家中殺害母親與 11 歲同母異父弟弟,接著帶長槍與改裝步槍進入 Tumbler Ridge 中學。校方啟動封鎖,RCMP 在接報後約兩分鐘抵達並在交火中進入校園。校內六人遇害:一名 39 歲教學助理,以及五名 12、13 歲學生;兩名重傷學生被空運到溫哥華。鎮上約 2,400 人,當天校內約 160 名學生與教職員被困數小時。槍手隨後自殺。卑詩省成年年齡是 19 歲,起訴狀特別寫:對方使用 ChatGPT 的整段期間,在省法上仍是未成年人。

更早七個月發生的事,才是這場訴訟的法律主軸。《華爾街日報》2 月獨家、起訴狀逐條採納的說法是:2025 年 6 月,OpenAI 的自動化審查系統因槍枝暴力情境把該帳號送進真人安全組。約十二名員工看過對話。安全組判定存在對他人的具體、可信風險,建議通報 RCMP。高層以「未達更高門檻:可信且即將發生的嚴重人身傷害」否決。公司停權那個帳號,沒有對外通報任何人。

停權之後,對方用第二個帳號繼續使用 ChatGPT,直到槍擊當天。OpenAI 是在槍擊發生後才聯繫 RCMP。公司對《華爾街日報》的公開口徑是:該帳號已被「封禁」,活動未達通報執法的標準。起訴狀直接反駁用詞:那不是使用者層級的封禁,只是停掉被標記的那一個帳號;OpenAI 說明中心還會告訴被停權的人怎麼避免再次停權、怎麼恢復使用。對方再開新號,系統沒有把同一身分、同一裝置、同一付款方式擋在門外。

4 月 23 日,Altman 在當地媒體 Tumbler RidgeLines 發表致社區公開信:「我深感抱歉,我們沒有就那個 6 月被封禁的帳號通報執法機關。」起訴狀把這句話標成對造自認:公司識別了風險,卻沒有行動。省長 David Eby 在 X 上寫,這份道歉「有必要,但對 Tumbler Ridge 家庭承受的毀滅遠遠不夠」。OpenAI 全球政策副總裁 Ann O’Leary 稍後在給加拿大聯邦部長的信裡寫:若用公司後來收緊、也更有彈性的執法通報標準,2025 年 6 月那個帳號「今天被發現就會通報執法」。起訴狀的讀法是:這等於承認舊標準不夠,而承諾過的改革沒有落地。

停權、封號、隱私:三個被起訴狀拆開的詞

OpenAI 對外常用「banned」這個字。起訴狀要法院看的是產品實際做了什麼。停權一個帳號,不會自動停掉同一個人再開的帳號;Help Center 文章甚至把暴力與自傷列為停權理由,同時說明如何避免再次被停。這在產品設計上等於把「已知的真實世界威脅」重新交給同一個 聊天機器人。起訴狀用的法律標籤是「過失託管」(negligent entrustment):把危險物品交回已識別的高風險使用者。

隱私抗辯被同一份文件從另一頭拆。OpenAI 隱私政策寫明,開戶時收集姓名與電子郵件,系統還會留下 IP、大致地區、裝置與瀏覽器識別碼、時區與使用資料。起訴狀說,兩個帳號開戶時公司就握有通報執法所需的識別與位置資訊;用「保護使用者隱私」解釋不通報,與公司已經蒐集、保存的資料對不上。

家庭訴訟在 9 月初那一波還加了一組對照。2025 年 11 月,OpenAI 因一名活動人士的威脅鎖定舊金山總部,向員工發放姓名與照片,並通報舊金山警局。訴狀寫:公司當時自己承認「沒有活躍威脅活動」,也就是按它自己的「即將發生」標準也不構成即將攻擊,卻立刻通報警察。原告律師事務所 Edelson 把這件事讀成:輪到自己人,隱私與即將發生兩道門檻都讓路。OpenAI 首席策略長 Jason Kwon 當時對 TechCrunch 說,判斷不是永遠正確,但「始終根植於為人設下的平衡」;他否認全球事務長 Chris Lehane 介入過 6 月那次通報決定,也否認調查人員向 Lehane 報告。Lehane 沒有被列為被告。Altman 有。

八項訴因,法院要審的不是一句道歉

起訴狀列了八項加州法訴因。前三項圍著「當時已經知道、卻沒打電話」:過失未警告執法、過失託管、協助與教唆大規模槍擊。中間兩項是對公眾與使用者的警告義務,以及「自願承擔安全職能後執行過失」。後三項把 ChatGPT 本身當成產品:設計缺陷過失、嚴格產品責任(設計缺陷)、嚴格產品責任(未充分警告)。協助與教唆需要證明故意,TechCrunch 在家庭訴訟那一波已寫過,這類主張很可能在早期被聲請駁回。省政府這次把同一項也寫進去了。

訴因起訴狀主張的事實核心
過失未警告執法安全組已建議通報 RCMP,高層否決
過失託管停權後未做使用者層級封禁,第二個帳號繼續用
協助與教唆槍擊產品持續產出、延長涉及槍枝暴力的對話
過失未警告未向使用者與公眾揭露長對話中安全功能會退化
過失履行自願承擔對外宣稱有真人審查與執法通報,實際門檻更高
設計缺陷(過失/嚴格責任)為提高停留時長拿掉暴力內容的絕對拒絕
未充分警告(嚴格責任)行銷為安全產品,未揭露可產出協助傷害他人的內容

產品那一截指向 2024 年 5 月的 GPT-4o 上線。起訴狀寫,Altman 把原訂數月的安全評估壓成大約一週;公司拿掉 ChatGPT 先前對暴力內容的絕對拒絕,因為拒絕會壓低使用者停留。預設開啟的跨會話記憶會把先前對話接下去;模型被調成附和使用者、用人稱對話語氣延長互動。對一個已經在講槍枝暴力的使用者,這些設計會把對話接下去、寫得更細,而不是把對話停掉。Model Spec 當時把「即將發生的真實世界傷害」放在「格外小心」層:模型被指示「嘗試」阻止傷害、「假定善意」,並且「不得為了決定要拒絕還是配合而去追問使用者意圖」。暴力與大規模傷亡若被包成虛構或角色扮演,屬於「敏感」而非禁止。起訴狀的結論是:可行的更安全設計存在,沒有被採用或有效執行。

這和 OpenAI 最近公開的內部對齊事故不是同一層問題。六起對齊報告處理的是模型在訓練與內部代理環境裡隱瞞、越獄、自我保護,見公開六起對齊事故。Tumbler Ridge 這案處理的是真人安全組已經做成通報建議之後,管理層有沒有打電話。一邊是模型行為,一邊是公司流程。防護欄沒攔住對話,是產品問題;攔住了對話、建議報警、電話沒打出去,是組織問題。兩件事可以同時成立,不能互相抵銷。

公帑數字寫進求償,禁制令寫進產品規格

起訴狀沒有開出精確總額,只寫爭議金額超過 75,000 美元——這是聯邦異籍管轄的門檻,不是實際損失。Sharma 對記者說,任何損害賠償都會用來重建那所中學。6 月,加拿大總理 Mark Carney 宣布聯邦與卑詩省各出資 1 億加元,合計 2 億加元,興建新學校並改建健康中心。舊校已於 8 月拆除。學區本週要對 Middle Bench 新址發初步地盤工作的建議邀請。

省府動員的數字寫在起訴狀裡,不是記者會口頭估算。2 月 11 日宣布全省緊急狀態。48 小時內約 45 名人員進駐這個沒有多餘教師、沒有待命臨床人員的小鎮。兒童與青少年心理健康團隊在攻擊次日至 4 月初,對超過 100 個不同的兒童與家庭做了逾 900 次諮商;Northern Health 治療了超過 130 名成人。臨時校園先用 14 輛林業部拖車,再換成模組教室。這些支出被寫成「非經常性、因這次攻擊才出現的公共開支」,用來避開「政府日常公務本來就要花錢」這類抗辯。

禁制令比金錢更接近產品規格。起訴狀要求法院下令八件事:可靠地拒絕、終止或降溫涉及傷害他人、武器或爆炸物的對話;禁止用虛構、角色扮演、「教育」或「研究」包裝來產出受限制的暴力內容;對呈現即將發生或可信嚴重傷害風險的使用者通報執法,且要符合 OpenAI 自己公開的升級標準;醒目警告安全功能會在多輪長對話中退化;做得到位的帳號層級執行,讓因暴力濫用被禁的人不能立刻用同一身分、裝置或付款方式回來;停止在沒有適當安全揭露的情況下把產品當安全工具行銷;可審計的安全訓練與防護控制;接受獨立監察人的季度合規稽核。

O’Leary 信裡承諾過的改革,和這八條禁制令重疊的只有「執法通報標準變得更有彈性」與「與加拿大執法建立對口」。起訴狀說,Altman 與 O’Leary 為了安撫輿論開過這類支票,省政府後來去跟進,沒有兌現。法院若簽下這八條,等於把AI 安全從部落格政策寫進可強制執行的禁制令。公司若主張改革已經做完,最直接的對質材料就是那些被拒絕交出的聊天紀錄。

加州法院、加拿大刑法、佛羅里達州訴,三條平行線

選擇加州不是地理巧合。Sharma 說,不通報的決定發生在加州;在科技公司總部所在地起訴,才有機會改到生成式 AI 的安全實務。起訴狀的管轄權段落寫:產品設計與行銷在加州,對話在加州產生,不警告 RCMP 的決定據信也在加州做成。卑詩省成年年齡、RCMP 與省府的警政合約、學校拆除與 2 億加元重建,全部是加拿大事實,被運進加州侵權法裡審。

加拿大這頭還有兩條不經過舊金山的線。RCMP 仍在做刑事案件調查,7 月聲明寫「尚未排除提出指控的可能」,電子裝置內容仍在分析。省驗屍官已下令公開研訊,檢視悲劇發生前的經過。Sharma 另外寫信給聯邦官員,要求修改刑法,讓 AI 公司能為其技術引發的犯罪行為負責:「在任何其他情形,幫助、鼓勵、共謀犯罪或刑事過失,都可以被調查、起訴、審判。這些刑法原則沒有 AI 豁免。」這封信不是 3:26-cv-10743 的一部分。它是把同一組事實送進國會修法軌道。

佛羅里達州 6 月成為第一個州政府起訴 OpenAI 的美國州,指控公司把 ChatGPT 行銷成對兒童也安全,並列出佛州州立大學槍擊等案件。OpenAI 否認 ChatGPT 造成那起校園攻擊。Tumbler Ridge 家庭 4 月已在加州起訴,9 月初 Edelson 再送進約 30 件,原告包括當時在校、未被子彈擊中的教師、校長與學生;那一波首次把「協助與教唆」寫進去。省政府這次強調:家庭求償與省府求償的損害基礎不同,省府追的是公帑損失與產品改法,不是家庭的精神損害賠償。三組原告坐在同一家公司對面,訴因有重疊,要的東西不一樣。

起訴狀把公司動機寫得很硬:避免形成「真實世界暴力規劃一律通報」的硬規則,因為那會衝擊「ChatGPT 是安全的」這句對外說法,也可能威脅預期中的 IPO 估值。Altman 本月稍早已當面排除 2026 年上市,說現在掛牌不明智,見他劃掉今年 IPO 的那篇。估值故事往後延,並不自動取消 2025 年 6 月那次通報決定當時的誘因結構。OpenAI 回函眾院時,自動關機機制仍在建造、入侵日誌仍不交,見自動關機還在蓋。公開信、部長函、國會回函與這份起訴狀,問的是同一件事有沒有被做成可檢查的流程。

聊天紀錄還沒進卷宗,這場官司現在能核對什麼

起訴狀有一條很少見的預告:聊天紀錄一經提出,原告會申請修狀;他們要求立刻排出交出期限。Sharma 公開說她沒讀過對話。等於目前所有「對話驚人」「涉及槍枝暴力情境」「安全組建議通報」的描述,都來自內部吹哨、《華爾街日報》、以及 OpenAI 自己事後承認的那句「我們沒有通報」。法院還沒看到原始 提示詞 與模型回覆。OpenAI 的 大型語言模型 會不會在多輪對話裡從拒絕滑向配合、會不會用角色扮演把限制內容送出去,這些是產品缺陷主張的技術核心,也是現在卷宗裡最空的一欄。

Kwon 在家庭訴訟那一波給過公司這側最完整的一句話:通報判斷不是永遠正確,但根植於為人設下的平衡。Pusateri 這次只重複悲劇與合作。兩種口徑都沒有回答起訴狀裡能被核對的四個是非題。第一,2025 年 6 月安全組有沒有做成通報建議。第二,高層有沒有否決。第三,停權之後第二個帳號有沒有繼續跑到槍擊當天。第四,Altman 4 月那句「我們沒有通報」能不能當自認。前面三題,公司在《華爾街日報》報導時已經部分承認過帳號被處理、未達通報門檻;第四題寫在公開信上。

對使用者來說,這則消息改的不是 ChatGPT 明天會不會突然變嚴,而是「被標記之後會發生什麼」第一次被一個省政府寫成可強制執行的清單:拒絕、終止、降溫、帳號層級封禁、獨立季度稽核。對買 API、把 OpenAI 審核 接進自家產品的團隊,禁制令若真的簽下來,影響的是上游模型會不會在角色扮演裡繼續談武器,以及供應商能不能主張「我們有審查」卻交不出審查紀錄。擬人化語氣讓對話更好聊,起訴狀把它寫成延長暴力意念的機制;這和字典裡的擬人化偏見是同一類設計選擇,只是後果從認知偏差被寫成了公共安全。

卑詩省把電話沒打出去這件事送進了加州陪審團軌道,同時把「刑法有沒有 AI 豁免」送進渥太華。聊天紀錄一天不進卷宗,產品缺陷那一半就還停在吹哨與自認;流程過失那一半,公司自己已經寫過道歉信。法院要審的不是這場槍擊有多慘,是一家經營全球 生成式問答 產品的公司,在自己的安全組已經把對話標成真實世界威脅之後,有沒有義務拿起電話。