聯邦學習

Federated Learning

多方協作訓練而不共享原始數據的隱私保護方法

詳細解釋

聯邦學習(Federated Learning)是一種分散式機器學習方法,允許多個設備或機構在不共享原始數據的情況下協作訓練模型,保護數據隱私。

工作原理:

  1. 中央服務器分發全局模型到各參與方
  2. 各參與方使用本地數據訓練,得到本地模型更新
  3. 參與方上傳模型更新(而非原始數據)到服務器
  4. 服務器聚合更新(如FedAvg算法)
  5. 分發更新後的全局模型,迭代進行

主要算法:

  • FedAvg:簡單平均本地模型權重
  • FedProx:添加正則項防止本地模型偏離
  • FedOpt:使用優化器進行聚合
  • 差分隱私:添加噪聲保護隱私

優勢:

  • 數據隱私:原始數據不出本地
  • 合規性:符合GDPR等法規
  • 降低帶寬:只傳輸模型更新
  • 個性化:可適配本地數據特性

挑戰:

  • 統計異質性:各參與方數據分布不同
  • 系統異質性:設備能力和可用性差異
  • 通信效率:頻繁上傳下載
  • 安全風險:模型反推攻擊、後門攻擊

應用場景:

  • 移動設備:Gboard下一詞預測(Google首創)
  • 醫療:多醫院協作不共享病歷
  • 金融:多家銀行協作反欺詐
  • 物聯網:邊緣設備協同學習

隱私增強技術:

  • 差分隱私:添加校準噪聲
  • 安全聚合:密碼學保護
  • 同態加密:加密狀態下計算

聯邦學習是隱私保護AI的重要範式。

探索更多AI詞彙

查看所有分類,繼續學習AI知識