詳細解釋
錨定(Grounding)是將AI生成內容與真實、可驗證的資訊來源連結,減少幻覺 (AI幻覺 / 模型幻覺),確保輸出的可靠性。
錨定方法:
- 檢索增強生成 (RAG):檢索外部知識後生成
- 引用標註:生成時附帶來源引用
- 知識圖譜:連結結構化事實
- 即時搜索:查詢最新資訊
- 多模態錨定:圖像、視頻的來源驗證
為何重要:
- 可信度:用戶可驗證資訊
- 可追蹤:知道資訊來自哪裡
- 可更新:資訊過期時可替換
- 合規:某些領域(醫療、法律)要求來源
應用示例:
- Perplexity AI:每個回答都有引用
- 搜尋引擎摘要:標註資訊來源
- 醫療AI:基於醫學文獻回答
- 法律AI:引用法條和判例
與引用的關係:錨定是概念,引用是具體實現方式之一。
挑戰:來源品質不一、來源本身錯誤、計算成本增加。