詳細解釋
一致性模型(Consistency Model)是單步或少步生成的擴散變體,犧牲部分品質換取極速生成。
核心思想:
- 一致性:同一數據的不同噪聲級別映射到同一點
- 跳過擴散:直接學習一致性映射
- 單步生成:從噪聲直接到數據
與擴散的對比:
- 擴散:多步(10-50)去噪
- 一致性:單步或少步(1-4)
- 品質:略低於多步擴散
- 速度:快10-50倍
訓練方式:
- 蒸餾:從預訓練擴散模型蒸餾
- 獨立訓練:直接訓練
- 漸進蒸餾:LCM方法
應用:
- 實時應用:需要<100ms響應
- 高並發:降低推理成本
- 預覽:快速草圖生成
代表工作:
- Consistency Models(OpenAI)
- Latent Consistency Models(LCM)
- 可4步生成可接受品質
與擴散模型 (擴散生成模型)的關係:
- 基於擴散理論
- 是效率和品質的權衡
- 適合特定應用場景
是生成模型加速的重要方向。