隱私保護

隱私保護（Privacy-Preserving）是在AI開發和部署中保護個人數據隱私的技術和實踐，確保敏感信息不被洩露或濫用。

技術方法：

• 差分隱私（差分隱私）：
• 添加精心設計的噪聲
• 數學保證：無法從結果反推個人數據
• 應用：人口統計、趨勢情報

• 聯邦學習（聯邦學習）：
• 數據不離開本地設備
• 只聚合模型更新
• 應用：手機輸入法、健康應用

• 安全多方計算（安全多方計算）：
• 多方協作計算，但不洩露各自輸入
• 密碼學保證
• 應用：跨機構數據協作

• 同態加密（同態加密）：
• 加密數據上直接計算
• 結果解密後與明文計算相同
• 計算開銷大，正在優化

• 數據匿名化：
• 移除或泛化標識符
• k-匿名、l-多樣性、t-接近性
• 注意：重新識別風險

法律框架：

• GDPR（歐盟）：數據最小化、目的限制、被遺忘權
• CCPA（加州）：消費者知情權和刪除權
• 中國個人信息保護法：類似GDPR的框架
• 行業規範：HIPAA（醫療）、FERPA（教育）

隱私風險：

• 成員推斷攻擊：判斷某人是否在訓練數據中
• 模型反演：從模型提取訓練數據
• 屬性推斷：推斷敏感屬性
• 成員屬性推斷：結合兩者的攻擊

最佳實踐：

• 數據最小化：只收集必要數據
• 目的限制：只為聲明目的使用數據
• 同意管理：明確獲取用戶同意
• 訪問控制：限制數據訪問權限
• 加密存儲：靜態和傳輸加密
• 審計追蹤：記錄數據訪問日誌

與效用權衡：

• 完全隱私：無法獲得有用洞察
• 完全開放：最大效用但無隱私
• 目標：找到適當的平衡點
• 隱私增強技術：在保護隱私的同時保留效用

隱私保護是AI系統設計的必要考量。