一致性模型

Consistency Model

單步生成的擴散變體

詳細解釋

一致性模型(Consistency Model)是單步或少步生成的擴散變體,犧牲部分品質換取極速生成。

核心思想:

  • 一致性:同一數據的不同噪聲級別映射到同一點
  • 跳過擴散:直接學習一致性映射
  • 單步生成:從噪聲直接到數據

與擴散的對比:

  • 擴散:多步(10-50)去噪
  • 一致性:單步或少步(1-4)
  • 品質:略低於多步擴散
  • 速度:快10-50倍

訓練方式:

  • 蒸餾:從預訓練擴散模型蒸餾
  • 獨立訓練:直接訓練
  • 漸進蒸餾:LCM方法

應用:

  • 實時應用:需要<100ms響應
  • 高並發:降低推理成本
  • 預覽:快速草圖生成

代表工作:

  • Consistency Models(OpenAI)
  • Latent Consistency Models(LCM)
  • 可4步生成可接受品質

擴散模型 (擴散生成模型)的關係:

  • 基於擴散理論
  • 是效率和品質的權衡
  • 適合特定應用場景

是生成模型加速的重要方向。

探索更多AI詞彙

查看所有分類,繼續學習AI知識