詳細解釋
平均絕對誤差(Mean Absolute Error, MAE)是回歸任務的損失函數,計算預測值與真實值差異絕對值的平均,對異常值比均方誤差更魯棒。
數學定義:
MAE = 1/n × Σ|yᵢ - ŷᵢ|
- yᵢ:真實值
- ŷᵢ:預測值
- |·|:絕對值
與MSE的比較:
- MAE:|誤差|,對異常值不敏感,優化較慢
- 均方誤差:誤差²,對異常值敏感,優化快
- 選擇取決於對異常值的容忍度
特性:
- 魯棒性:大誤差不會被平方放大
- 不可微分:|x|在0點不可導
- 可用次梯度優化
- 或Huber損失平滑過渡
- 中位數預測:MAE優化得到中位數而非均值
- 單位:與原始數據相同單位
應用場景:
- 異常值多:數據中常有極端值時
- 需要魯棒性:不希望少數異常值主導模型
- 物理預測:某些物理量預測偏好MAE
- 中位數回歸:預測條件中位數而非均值
Huber損失:
- 結合MAE和MSE優點
- 小誤差:像MSE(可微)
- 大誤差:像MAE(魯棒)
- 參數δ控制過渡點
與其他指標:
- RMSE:√MSE,同單位但對異常值敏感
- MAPE:百分比誤差,相對指標
- MAE:絕對指標,直觀易解釋
MAE是對異常值魯棒的回歸損失選擇。