詳細解釋
表示學習(Representation Learning)是機器學習自動學習數據有效表示的方法,替代人工特徵工程。
傳統vs表示學習:
- 傳統:專家設計特徵(SIFT、HOG等)
- 表示學習:神經網絡自動學習
- 深度學習:層次表示學習
層次表示:
- 低層:邊緣、顏色、紋理
- 中層:部件、形狀、模式
- 高層:語義、概念、抽象
關鍵技術:
- 嵌入向量 (嵌入 / 詞嵌入 / 向量嵌入) (Embedding Lookup):離散到連續向量
- 自編碼器:壓縮與重建
- 對比學習:相似樣本靠近
- 預訓練+微調:遷移表示
評估:
- 下游任務性能
- 可視化(t-SNE、UMAP)
- 插值(平滑過渡表示新樣本)
- 解耦(獨立控制不同因素)
應用:
- 所有深度學習任務的基礎
- 檢索:語義向量搜索
- 推薦:用戶物品表示
- 遷移學習:跨任務複用表示
是深度學習 (深度神經網絡)的核心目標和能力。