OpenAI 這次封鎖的兩批 ChatGPT 帳號,最常被拿來做的事不是寫給大眾看的文,是寫給上司看的內部報告。官方頁《Disrupting AI-enabled "false front" operations》把這兩起行動稱為「假前線」:一個在拉丁美洲養了一家真的有人上班的智庫,一個用七個西方記者筆名,把長文投進真實媒體。俄國那一起被評到影響力突破量表 Category 5,是公司兩年半、三十起公開案例裡第一次;伊朗那一起的投搞線是 Category 4,同一批帳號在社群上刷的留言卻只到 Category 2。
官方沒公布帳號數量,也沒點名最終金主或情報單位。俄國那批多數用俄文下提示詞,有一人用西班牙文,但仍被判定人在俄國;伊朗那批用波斯文提示,產出波斯文與英文。兩邊都走 VPN 進 ChatGPT——俄國因為 OpenAI 不對該國開放,伊朗則用來遮位置。公司說已把案件交給相關當局,並與產業夥伴交換資訊。NPR、CNA、CyberScoop、The Hill 與 Magica 對這組事實的核對結果一致:封鎖發生了,公開能獨立對上的是部分造假與媒體見報,不是民意被改了多少。
這兩起行動最像前 AI 時代的複雜影響力作業,只是用模型把一部分流程變輕。
量表量的是擴散,不是洗腦成功
OpenAI 用的 IO Breakout Scale 是情報調查負責人 Ben Nimmo 參與發展、Brookings 2020 年公開的方法。1 到 6 分看內容走了多遠:主流媒體轉載大致落在 4,政治人物等公眾人物公開回應才到 5。Magica 把這條界線寫清楚:Category 5 描述的是可觀察的擴散,不是多少人因此改變立場。官方自己也寫,過去三十起被揭穿的隱蔽影響力行動裡,真正衝得遠的,幾乎都是把內容塞進真實媒體,而不是只靠假社群帳號互刷。
俄國行動被放在 5,依據是至少有政治人物公開評論;伊朗投搞線被放在 4,因為長文進了多家線上媒體;同一批伊朗帳號的社群留言被放在 2,因為跨了平台、幾乎沒衝出自己人的按讚圈。官方把這三十起依「主要分發路徑」排過矩陣:社群、自設網站、外部出版物。走超過一種路徑的,以核心那條來分類。
| 項目 | 俄國 Dark Clark | 伊朗 Bogus Bylines |
|---|---|---|
| 前線實體 | 「社會研究中心」智庫,拉丁美洲有不知情員工 | 七個西方記者筆名 |
| 主要目標 | 損害烏克蘭在拉美形象;干預防、玻利維亞等地內政 | 美伊衝突敘事;少數涉及美國政治 |
| ChatGPT 最常見用途 | 寫給上司的內部報告、績效與智庫營運 | 依媒體投稿規格改稿、草擬投稿信、批次留言 |
| 公開產物 | 假公文、假音檔、假合約;智庫網站逾 60 篇、多數原創 | 近 100 篇已刊或轉載長文;社群留言互動多在個位數到兩位數 |
| 突破評級 | Category 5(公司公開案例首次) | 投搞 Category 4;留言 Category 2 |
| 官方歸屬 | 俄國來源;未點名政府或情報單位 | 伊朗來源;型態像商業承包,未點名承包商 |
| 進 ChatGPT 的方式 | VPN(該國不能直連) | VPN 遮位置 |
Dark Clark:智庫是真的在做研究,老闆是假的
俄國這批帳號被公司暱稱為 Dark Clark,名字來自一個叫 Mia Clark 的假身分。內部報告顯示,Clark 負責社群,並對拉丁美洲現場員工下指令。前線機構叫 Social Research Center(SRC,俄文名稱寫成 Центр социологических исследований)。對外網站把業務寫成研究拉丁美洲的印度僑民、以及印度與該區關係。OpenAI 在網站上對到遠超過 60 篇文章,絕大多數看起來是原創:現場員工訪問區域專家、再寫研究報告,題目從 BRICS 民調到巴西博索納羅與魯拉任內經濟比較都有。
內部報告談到薪資表、招募、解僱、人力規劃與進行中的研究題。官方把這讀成:俄國操作者在管這家機構,而不是跟它合作。現有證據顯示,拉丁美洲員工不知道自己在為俄國團體工作,研究任務是當真在做的。這和公司稍早揭過的另一家俄國背景「智庫」不同——那一家網站內容大多抄來、還張冠李戴;SRC 走的是「用真研究養長期掩護」。OpenAI 把它寫成兩年半來見過最複雜的前線身分嘗試,並把它對上 2020 年 Meta 揭過的 PeaceData:同樣是普里戈任體系那一套,找不知情的人寫真稿。
社群帳號反而露餡。操作者回報:不同地區的人登同一組帳號,導致平台限制。SRC 在 X 的主帳號透明度設定顯示德國位置(官方猜 VPN),卻經俄羅斯聯邦 App Store 連上;一則 Instagram 管理員位置在委內瑞拉。三個 SRC 品牌的 Facebook 粉專追蹤數不夠觸發管理員位置。LinkedIn 上他們先做一個明示假帳號,長不出網絡,解法是再做一批假帳號去追蹤它。截至 8 月 17 日,同品牌 LinkedIn 寫 961 位追蹤者、聲稱 200–500 名員工,實際只列了兩人。這些數字不能反推真實編制。
假音檔與假公文:模型多半在改口音,偶爾才寫正文
操作者對 ChatGPT 的三件事是:寫內部報告(含把別人的事攬成自己的績效)、為行動做內容、寫 SRC 經營報告。官方明講,多數時候沒看到他們用模型生成公開文案,只有少數例外。這批人裡至少有一名拉丁美洲母語西語者,所以語言模型比較常被叫去對口音、用詞、機關公文格式,而不是從零寫一篇西語新聞。
能對上公開紀錄的幾則,比「AI 寫假新聞」這個標題硬。
利馬那封假公文:操作者聲稱冒充利馬地區教育局信箱,指示學校在國家文化語言多樣性日辦烏克蘭主題活動,並點名二十世紀烏克蘭民族主義者斯捷潘·班傑拉——有些烏克蘭人視他為獨立符號,在波蘭與俄國語境裡則與戰時合作、暴行綁在一起。他們說有學校回信確認辦了活動、還附照片,接著把故事種進秘魯與波蘭媒體,再加一層「烏克蘭在輸出極端民族主義」。OpenAI 的開源查核對到秘魯、波蘭、匈牙利英文媒體上相符的報導(部分後來刪了),以及一名波蘭歐洲議會議員主張把表現「反波蘭」的人列為不受歡迎人物。假公文吃的是烏克蘭與波蘭之間既有的歷史摩擦,也把它再餵回去。
厄瓜多那封效忠儀式:操作者聲稱用另一個假信箱,誘使學校辦儀式向總統諾沃亞與前黑水負責人埃里克·普林斯效忠。開源查核對到厄瓜多媒體報導,以及教育部長的詳細駁斥。官方寫,操作者的目標之一就是逼政府否認,好把假消息放大成全國議題。
玻利維亞抗議期間的假音檔:操作者把目標寫成加劇危機。內容是國營水公司 EPSAS 員工聲稱政府要切斷拉巴斯供水、宣布緊急狀態。開源查核對到相符的闢謠,以及 EPSAS 官方否認。
厄瓜多兩則三月份假消息:一則把貶低厄瓜多人的假音檔安在烏克蘭駐厄領事頭上,對到一則 TikTok,互動有限;另一則用真實新聞台標,在 X 與 TikTok 傳「政府用空殼公司徵人去烏克蘭打仗」,厄瓜多事實查核組織在四月初描述過相符的一波。同一條徵兵線後來還用到一份假合約:西班牙語操作者把一份「International Security Solutions FZE」與厄瓜多個人的基礎設施服務合約草稿丟給模型,問怎麼改用詞、版面、哪些字該粗體。定稿後,相符的合約照片在社群流傳,用來支撐「諾沃亞政府騙人去烏克蘭當兵」。事實查核寫,該公司不在厄瓜多公司證券保險監理名冊。
巴拿馬那封指控烏克蘭名譽領事貪腐的信,是少數「模型寫了公開文案」的例子:俄文操作者先用俄文起草,西語操作者再請模型譯成西班牙文並生成旁白腳本。相符的照片與旁白後來出現在一個仿 TVN Noticias 台標的 TikTok 頻道,該頻道只有一名追蹤者,貼完這則就停了。
| 操作者自稱做過的事 | 開源能對上什麼 | 對不上或不可當作績效的部分 |
|---|---|---|
| 利馬假公文、班傑拉主題活動 | 秘魯、波蘭、匈牙利媒體見報;波蘭歐洲議員公開回應 | 學校是否真的按假信辦活動,主要來自操作者自己的報告 |
| 厄瓜多效忠儀式 | 當地媒體、教育部長駁斥 | 誘使過程無法在公開端完整復原 |
| 玻利維亞停水假音檔 | 闢謠與 EPSAS 否認 | 音檔原始散播路徑未全部公開 |
| 烏克蘭領事假音檔 | 相符 TikTok,互動少 | 未能證明衝出平台 |
| 徵兵空殼公司/假合約 | 社群流傳、四月事實查核 | 公司不在當地名冊,是查核結論,不是模型自己承認 |
| 巴拿馬貪腐信 | TikTok 文案與旁白對得上模型產出 | 頻道僅 1 名追蹤者 |
| 巴西網紅被「騙去烏克蘭遇害」 | 未對到公開來源 | 可能已撤、未發,或根本沒做 |
| 阿根廷外長在聯合國委員會複述其論點 | 阿根廷對福克蘭/馬爾維納斯的官方立場已存在多年 | 官方點名這是對自己老闆的影響力作業 |
最後那一列很關鍵。操作者還請模型幫忙找出目標國已經發生、自己可以「認領」的事件。阿根廷外長在聯合國委員會談福克蘭/馬爾維納斯時,操作者把「自決權不適用」和「英國駐軍不成比例」攬成自己種下的論點;這兩句其實是阿根廷官方多年立場。巴西媒體報導一名巴西公民赴烏參戰、被俄軍俘、上電視說自己受騙,操作者宣稱那是自己的敘事落地;報導引的是俘虜自己的影片。OpenAI 把這寫成:這套內部報告系統,有時是在對雇主做影響力行動,而不是對外。
兩則 2024 年針對阿根廷總統米萊的行動——假傳他為狗買卡地亞珠寶項圈、以及付錢請人在布宜諾斯艾利斯塗反米萊塗鴉——被開源研究歸到 Politology/La Compania,也就是普里戈任體系、瓦格納之後被報導的後繼實體。操作者問模型翻譯或解釋 Politology 與瓦格納的公開報導,頻率遠高於任何其他俄國網絡。官方寫了這些重疊,沒有因此把 Dark Clark 算成某個俄國政府或情報單位的行動。CyberScoop 同樣核到:報告沒有歸到特定機關。
Bogus Bylines:投稿比刷留言有效,連自己人都在灌水
伊朗這批帳號被叫作 Bogus Bylines。七個筆名是 Ervin B. Hoskins、Noah Lamington、Sophia Gonzalez、Michael Harrison、Ericka Feusier、Jenny Williams、Alice Johnson。放在文章旁邊的簡介把他們寫成西方記者,多半是美國人,Noah Lamington 的簡介寫人在紐西蘭,主題涵蓋國際政治、中東、人權或衝突。Michael Harrison 的簡介是請模型寫的。Meta 三月拆過另一起伊朗影響力行動,裡面也有一個「Michael Harrison」記者身分;OpenAI 把這點記下,沒有把兩案算成同一組人。
Hoskins 的簡介寫「美國自由撰稿人」,社群透明度設定卻把帳號放在伊朗。Harrison 在 Medium、X、Facebook 有配套帳號;Hoskins 在 X、Facebook、Instagram、Threads。Meta 已在八月封掉 Hoskins 的 Instagram。
典型流程是:把一篇英文長文草稿丟進 ChatGPT,對照某家線上媒體的投稿規格,請模型改到能過;過了之後再請它草擬給該刊編輯的投稿信。主題集中在美伊衝突地緣政治。OpenAI 對到近 100 篇已刊或被轉載的文章,分布在大約十多家中小型國際事務、地緣政治、中東線上媒體,時間從 2025 年 7 月到現在,美伊衝突開打後密度明顯上升。至少有一部分文章被這些媒體自己的社群帳號轉推。其中一家在八月的公開追蹤數是 Facebook 近 200 萬、X 約 35.5 萬、Instagram 逾 54.4 萬。這是媒體帳號的粉絲數,不是這批文章的閱讀量。
社群那條線差很多。操作者把貼文全文或截圖丟給模型,一次要一批符合總路線的回覆:美國是侵略者、以色列是不可靠盟友、伊朗是受壓卻有韌性的受害者。對英國衛星台 Iran International(伊朗政權的批評者)特別密集,官方寫超過二十多批敵對波斯文回覆。少數批次回的是美國政治貼文,但仍放在衝突語境裡。另一種用法是:把自己投出去的文章截圖丟回去,請模型生成稱讚,讓文章看起來比較紅。
找得到的真實留言,讚、閱、回覆多在個位數到兩位數;在該則貼文的全部留言裡通常只佔少數;不少讚來自同一批行動帳號。三個筆名在簡介裡留了 X 帳號,到八月都已被停權。操作者內部報告把「影響力」算成:他們回覆的那則原帖,在回覆前與回覆後的觀看次數差——不是自己留言被看到幾次。這個算法不扣除原帖本來就紅、或其他留言帶來的流量。官方說,這表示他們要嘛不會算、要嘛選擇不算。這不是公司第一次拆到用 生成式AI 寫自我考評的行動,但這次灌水方法特別粗。
OpenAI 認為整體型態像商業承包的影響力服務,無法指出是哪一家。Feusier、Alice Johnson、Jenny Williams 三個筆名的 X 已停,不代表投搞線停了。
封鎖帳號解決不了的事
假前線這一招並不是 大型語言模型 發明的。官方自己把伊朗記者筆名對上 2016–17 年俄國軍情的假記者 Alice Donovan,把 SRC 不知情員工對上 2020 年的 PeaceData。模型新加的是規模、效率、語言流暢、改稿能力,讓不知情的員工與編輯更容易把內容送到不知情的讀者面前。聊天機器人 在這裡比較像後勤:寫週報、對口音、對投稿規格、把統計做成簡報。公開端真正造成擴散的,仍是真媒體、真學校信箱、真水公司闢謠、真政治人物開口。
這也是為什麼公司強調「負責任揭露」。Alice Donovan 與 PeaceData 被揭之後就停了。目標是讓後續調查與干擾變容易,讓行動繼續變難。它沒有證明 SRC 已經關門,也沒有證明那十多家媒體已與七個筆名切斷關係。下一層要驗證的是雇主、出版社、平台與執法單位能不能核對這些關係,而不是 ChatGPT 帳號是不是還登得進去。要證明「擴散」有沒有變成「改觀」,還需要另一套受眾證據;這份報告沒有提供。
假音檔這條線,和把來電真偽做成系統預設防線是同一類問題:深度偽造 讓聲音不再能當身份。相關脈絡可見 Google 把 AI 假來電偵測做成 Android 預設防線。這次報告能核到的,是部分假音檔與假公文確實進了公開空間,並且有官方否認;它核不到的,是這些否認有沒有讓更多人相信那則假消息。
