如果你最近覺得假簡訊越來越像真的，Google 這次的官司其實把原因講得很直白。Google 對一個名為 Outsider Enterprise 的跨境詐騙網路提告，指控對方把 生成式AI 與釣魚工具包綁在一起，讓原本需要寫程式、架站、發送大量訊息的犯罪流程，變成低門檻、可訂閱、可複製的服務。這不是單純「有人拿 Gemini 寫壞東西」而已，而是 大型語言模型 已被塞進一條成熟的詐騙供應鏈裡。
Google、路透、TechCrunch、The Hacker News 與公開訴訟頁面拼起來，這起事件的核心很清楚：Outsider 提供的是一種 phishing-as-a-service 套件，透過 Telegram 組織、模板庫、代碼指引與大量簡訊基礎設施，把原本分散的犯罪技能打包販售。Google 說它在去年 11 月中到今年 4 月中之間，光是和 Outsider 有關的惡意網址就偵測到超過 159 萬筆；Google 的官方部落格又補上更直觀的規模數字，指這個網路和 9,000 個假網站、超過 100 萬個詐騙 URL 有關，並在短短兩週內向 Android 使用者送出 250 萬則內含惡意連結的簡訊。
更麻煩的是，這個網路賣的不是「高技術黑客工具」，而是面向新手詐騙者的即插即用產品。TechCrunch 引述訴狀指出，Outsider 的週租價格只要 88 美元、月租 200 美元，內建超過 290 套仿冒模板，能快速做出像銀行、電信商、政府機關、零售平台甚至 Google 自家品牌的假頁面。Google 在訴訟文件中還說，這些模板配合 AI 生成程式碼的步驟教學後，讓技術能力有限的人也能在幾分鐘內做出看起來足夠像真的詐騙站。這種把犯罪流程商品化的做法，才是這條新聞真正危險的地方。
| 指標 | 已公開數字 | 代表什麼 |
|---|---|---|
| 兩週內發送的惡意簡訊 | 250 萬則 | 詐騙已經不是零星投放，而是工業化批量發送 |
| Android 使用者兩週內標記的垃圾簡訊 | 55,000 則 | 代表用戶端已能明顯感受到流量壓力 |
| Google 偵測到的關聯 URL | 超過 159 萬筆 | 顯示這不是單一活動，而是長期擴張中的基礎設施 |
| 假網站數量 | 9,000 個 | 仿冒頁面已能跨品牌、跨場景快速複製 |
| FBI 估計自 2023 年以來被竊信用卡 | 約 387 萬張 | 這不是試驗性犯罪，而是高額變現的成熟業務 |
Google 在這裡特別點名 Gemini，被很多人直覺解讀成「模型本身闖禍」。但目前已公開的細節其實更像另一回事：犯罪者不是要求 聊天機器人 直接說「請幫我做詐騙站」，而是把需求包裝成一般前端協助，例如要模型生成一個禮品兌換頁、避免使用 JavaScript、用 inline CSS 做版面，先產出無害外觀的 shell page，再把這些代碼貼進 Outsider 的後台，變成真正會收割帳密與信用卡資料的釣魚頁。也就是說，問題不只在模型會不會拒答，而在詐騙者已經很懂如何把惡意目的拆成看起來正常的 提示詞 與工作步驟。
這也是為什麼 Google 這次沒有只停在封帳號、移除內容或更新濫用政策。根據路透，Google 在紐約南區聯邦法院對匿名被告提起訴訟，主張包括 RICO、商標濫用等多項請求，還另外申請緊急臨時限制令。CourtListener 顯示案件在同一天就有 complaint、temporary restraining order 與多份密封附錄一起提交，說明 Google 的目標不是做象徵性聲明，而是試圖直接打斷網域、伺服器與營運鏈條。這和單純把某個模型帳號停權完全不是同一層級的防守。
官方說法也透露出另一個值得注意的轉向：Google 明確把這件事包成「產品防線 + 法律行動 + 立法遊說 + 跨產業合作」的組合拳。Google 部落格提到，除了和 FBI 協作，還在和 AT&T、T-Mobile、Verizon 一起阻斷訊息傳播，並公開支持 7 項針對詐騙的兩黨法案。這代表大模型公司開始承認，面對 網路安全 風險時，單靠模型安全團隊與內容過濾並不夠，還得把電信商、法院、執法單位與法規機制都拉進來。換句話說，AI 風險治理正在離開實驗室，進入更像傳統金融詐騙與跨境犯罪治理的現實區。
對使用者來說，這起事件最重要的啟示不是「Gemini 危險」，而是 AI 已經把詐騙的製作成本與學習曲線一起壓低了。當犯罪者可以買模板、照抄 prompt、透過 Telegram 找同夥，再用現成簡訊與網站基礎設施大量投放，假訊息、假通知、假兌換頁的品質就會同步拉高。你收到的可疑簡訊不再只是文法錯亂的低級詐騙，而可能是能針對品牌、語氣與流程做細緻模仿的高轉換漏斗。
這也讓 Google 之前那篇站內新聞更值得回頭一起看：Google 把 AI 假來電偵測做成 Android 預設防線，深偽詐騙開始逼手機系統直接驗證身分。當時 Google 把焦點放在裝置端辨識與通訊防禦，現在則把戰線往法院、電信商與聯邦執法單位延伸，兩者其實是同一條主線的上下游：前者處理「使用者接到什麼」，後者處理「犯罪網路能不能繼續大量生產什麼」。
接下來真正要看的，不是 Google 能不能再多抓幾個網站，而是法院是否願意快速批准更多基礎設施層級的限制、其他模型公司會不會跟進採用 affirmative litigation，以及電信與平台業者能不能把阻斷速度拉到比詐騙模板複製速度更快。只要答案還是否定的，AI 詐騙就不會停在內容風險，而會繼續長成一門標準化、可擴張、可外包的地下生意。