詳細解釋
均方誤差(Mean Squared Error, MSE)是最常用的回歸任務損失函數,計算預測值與真實值差異平方的平均值。
定義:
MSE = 1/n × Σ(yᵢ - ŷᵢ)²
- yᵢ:真實值
- ŷᵢ:預測值
- n:樣本數量
特性:
- 非負:平方確保誤差為正
- 放大異常值:大誤差被平方後影響更大
- 可微分:處處可導,便於梯度下降優化
- 單位:預測值的平方單位(如米²)
與平均絕對誤差的比較:
- MSE:平方誤差,對異常值敏感,優化更快
- MAE:絕對誤差,對異常值魯棒,優化較慢
- 選擇取決於對異常值的容忍度和業務需求
應用場景:
- 回歸預測:房價、股票價格、溫度預測
- 圖像重建:像素級重建誤差(自編碼器)
- 信號處理:降噪和重建任務
- 物理模擬:預測物理量的誤差
變體:
- RMSE(均方根誤差):√MSE,與原始數據同單位
- 加權MSE:不同樣本給予不同權重
- Huber損失:結合MSE和MAE優點
優化特性:
- 凸函數:全局最優解唯一
- 梯度:∂MSE/∂ŷ = -2(y - ŷ)/n
- 平滑:相比MAE的不可導點更易優化
MSE是回歸問題最基礎且廣泛使用的損失函數。