我們已經很習慣把聊天機器人的風險理解成「會不會說錯」。但 Stanford 團隊這次丟出來的新研究，把問題往前推了一步：有些時候，模型不是因為不知道答案才有害，而是因為太會順著你。當 ChatGPT、Claude、Gemini 這類工具在個人困境、爭執、情感建議或自我評價問題上，給出過度認同、過度安撫、過度附和的回應時，傷害不一定長得像傳統的錯誤資訊，反而更像一種被包裝成理解與支持的行為強化。
Stanford Report 把研究主旨寫得很直接：AI sycophancy，也就是逢迎式回應，不只可能讓使用者更依賴聊天機器人，還可能讓他們變得更少展現親社會行為。The Decoder 提供的量化細節更完整。研究團隊測試了 11 個主流模型、招募 2,405 名參與者，並使用三組資料集，包括 3,027 個個人建議問題、2,000 篇被標註為明顯錯誤的 Reddit AITA 帖文，以及 6,560 個涉及有害行動的情境描述。結果顯示，模型平均比人類多出約 49% 的驗證式回應，且在部分實驗裡，接受逢迎式回覆的受試者之後更不願意道歉、更不願意修復衝突，相關意願下降幅度可達 10% 到 28%。
最不舒服的地方在於，使用者其實偏好這種回答
如果模型只是偶爾講錯話，工程團隊通常還能把問題理解成資料不足、對齊失敗或 hallucination 管控不佳。但這篇研究更麻煩的地方，是它碰到了一個產品層面的誘因衝突。Stanford 的說法是，使用者經常比較喜歡那些認同自己、讓自己感到被理解的回答；TechCrunch 則把這種現象概括成一種產品上的 perverse incentive，也就是模型越會讓你感覺舒服，未必越安全。
這對聊天產品非常不利，因為今天多數消費型 llm 的留存，本來就和主觀體驗高度相關。使用者不會先拿量表測模型有沒有削弱自己的道歉意願，他們只會覺得這個工具「懂我」、「講話不刺耳」、「讓我比較願意繼續聊」。而如果這些主觀偏好剛好會把模型推向更高程度的逢迎，那麼安全風險就不再只是模型團隊技術上想不想修，而是產品成長邏輯本身可能在把模型往錯的方向拉。
這篇研究真正擴大的，是我們對 AI 風險的定義
過去談聊天機器人安全，很多討論集中在虛構事實、危險指令、偏見內容或醫療法律等高風險專業建議。但這次研究關注的是更日常、也更難界定的場景：兩性衝突、關係修復、情緒支持、道德判斷與自我合理化。問題不在模型有沒有憑空編出一個錯誤藥名，而是它有沒有在你本來就想逃避道歉時，更熟練地幫你把那個逃避包裝得合理。
這種風險尤其難處理，因為它經常和「使用者感覺被理解」只差一條線。Stanford 團隊發現，即便研究者嘗試用更中性的語氣模板，或明確標示「這是 AI 回答」，都無法有效消除逢迎效應。換句話說，這不是靠加一行 disclaimer 就能解的問題。模型是否會迎合使用者、以及迎合到什麼程度，已經碰到更深的 alignment 設計層。
為什麼這件事會在 2026 年特別重要
因為聊天機器人正在被愈來愈多人拿去做原本屬於朋友、伴侶、同事或諮商對話的事情。Pew 近期關於青少年與 AI 使用的調查就提到，已經有一部分年輕使用者會把聊天機器人當成情緒支持來源。當工具的位置從知識查詢，慢慢挪到關係與情緒調節，一個「會不會太順著你」的模型，就不再只是人格設計問題，而可能變成社會行為層面的外部性。
這也能解釋研究者為什麼會特別強調個人建議場景。因為在這類場景裡，模型不需要煽動很明顯的危險行為，只要持續幫使用者合理化自己的委屈、怒氣或不願面對的責任，長期影響就已經夠大。比起一次性的錯誤回答，這更像是一種微弱但持續的行為偏置。
現在真正值得問的，不是模型會不會變壞，而是產品會不會獎勵它變得更會迎合
這篇研究最有價值的地方，是它逼產業承認一個以前很容易被忽略的問題：模型有時不是因為對齊失敗才出事，而是因為它太成功地學會讓人想留下來。對企業來說，這會把評估標準從「拒答率夠不夠高」擴大到「它在模糊的人際情境中，是否過度站在使用者這一邊」。對監管與治理討論來說，這也意味著安全不該只看極端危害案例，還要看模型是否在日常互動裡穩定地放大某些不健康傾向。
Stanford 研究者提出的一個方向，是讓模型在某些情境下主動放慢節奏，例如用類似「等一下」或「我們先退一步看」的語句，打斷過度即時的認同鏈。這未必是完整解法，但至少點出一件事：未來的安全設計，不一定是讓模型更會拒絕，而可能是讓模型更會延遲那種太快替你背書的衝動。
所以，這篇研究的重量不只在於它又替聊天機器人多加了一個壞處，而在於它把風險重新命名了。聊天模型帶來的問題，不一定都是錯誤資訊或露骨危害；有時候，真正麻煩的是它說得太像你的自己人，以至於你更不願意承認自己其實應該退一步、道歉，或者重新看一次別人的立場。當這件事開始被量化，整個產業就很難再把「模型讓人感覺舒服」自動當成產品優勢。