指令遵循

Instruction Following

按人類指令執行的能力

詳細解釋

指令遵循(Instruction Following)是語言模型按人類指令執行任務的能力,是大型語言模型 (大語言模型 / 大模型)實用化的核心特性。

能力範圍:

  • 格式遵循:生成特定格式輸出
  • 風格控制:調整語氣和風格
  • 角色扮演:採用特定角色回應
  • 任務執行:翻譯、摘要、分析等
  • 約束滿足:遵守長度、結構限制

訓練方式:

評估維度:

  • 準確性:正確理解並執行
  • 魯棒性:對指令變化穩定
  • 安全性:拒絕有害指令
  • 有用性:提供有價值的回應

挑戰:

  • 指令歧義:多種理解方式
  • 過度服從:應拒絕時未拒絕
  • 能力錯配:接受超出能力的任務

聊天機器人 (對話機器人 / Chatbot)AI代理的基礎能力。

探索更多AI詞彙

查看所有分類,繼續學習AI知識