詳細解釋
後驗機率(Posterior Probability)是在觀測到數據後,對某個假設或參數條件概率的更新估計,是貝氏推論的核心概念。
與先驗和似然的關係:
- 先驗機率 P(H):觀測數據前對假設的初始信念
- 似然 P(D|H):假設成立時觀測到數據的概率
- 後驗機率 P(H|D):觀測數據後假設的概率
- 貝葉斯定理:P(H|D) ∝ P(D|H) × P(H)
應用場景:
- 醫學診斷:結合症狀和疾病基礎發病率計算患病概率
- 垃圾郵件過濾:根據郵件內容更新是垃圾郵件的概率
- 參數估計:機器學習模型權重的概率分布
- 假設檢驗:比較多個競爭假設的相對可能性
計算挑戰:
- 正規化常數:計算 P(D) 通常需要複雜的積分
- MCMC (馬可夫鏈蒙地卡羅):馬可夫鏈蒙地卡羅方法近似後驗
- 推理 (模型推理) (Inference Optimization) (Variational Inference):變分推斷快速近似
在機器學習 (ML)中:
- 貝葉斯神經網絡:權重的後驗分布而非點估計
- 高斯過程:函數空間的後驗分布
- 主題模型:LDA中的主題分布後驗
後驗機率提供了結合先驗知識和觀測數據的嚴謹框架。