人類回饋強化學習

RLHF（Reinforcement Learning from Human Feedback）是用人類偏好回饋來訓練大型語言模型 (大語言模型 / 大模型)的強化學習方法，讓模型輸出更符合人類價值觀。

流程：

• 收集人類對輸出的偏好排名
• 訓練獎勵模型預測人類偏好
• 用強化學習優化大型語言模型 (大語言模型 / 大模型)以最大化獎勵

ChatGPT、Claude等大型語言模型 (大語言模型 / 大模型)都採用RLHF提升安全性與有用性。