動態目標設定

Dynamic Goal Setting

AI 可依情境調整目標

詳細解釋

AI Agent 在運行過程中根據環境反饋調整目標的技術,與靜態目標(預先設定且不變)相對。這是實現真正自主性的關鍵。

傳統 AI 的局限:

  • 目標固定:下棋 AI 永遠只想贏棋,不會「意識到」用戶想教學而非擊敗
  • 無法適應:環境變化時行為僵化

動態目標機制:

  • 目標分解:將高層目標(「幫用戶規劃旅行」)分解為動態子目標(先問預算、再問偏好)
  • 環境評估:每步評估當前狀態,調整優先級(發現用戶猶豫時切換到推薦模式)
  • 學習更新:從結果反饋學習,調整目標權重

應用場景:

  • 個人助理:根據日曆自動調整日优先级(重要會議前不推薦娛樂內容)
  • 遊戲 NPC:根據玩家行為動態調整挑戰難度
  • 機器人:導航時發現障礙,動態重設路徑
  • 科研 Agent:發現實驗結果與預期不符,動態調整研究方向

技術實現:

  • 強化學習:獎勵函數隨時間調整
  • 層級強化學習:高層策略設定低層目標
  • 元學習:「學習如何設定目標」
  • 神經符號結合:邏輯規則 + 神經網絡的靈活性

風險:目標漂移(goal drift)—— 動態調整偏離原始意圖,導致意外行為。這是 AI 安全的研究重點。

探索更多AI詞彙

查看所有分類,繼續學習AI知識