Rethinking Classifier-Free Guidance in On-Policy Diffusion Distillation
為何重要
這項研究解決了 Diffusion 模型壓縮的一大技術瓶頸：學生模型在模仿教師模型時，若『Negative Branch Asymmetry (NBA)』未被校準，教師的『特權資訊』會導致負向分支誤差增加。提出的 PDM 方法引入分支約束，不僅理論上修正了訓練目標，也提升了 Dense-to-Sparse video control 等應用在不同推理 guidance scales 下的穩定性，為更強健的學生模型訓練提供了新循。
這篇研究探討 Diffusion 模型在進行 On-Policy Distillation (OPD) 時，如何處理現代系統核心元件 Classifier-Free Guidance (CFG) 的問題，發現傳統速度匹配方法在某些情況下會因分支錯誤抵消而失效，導致知識遷移不良。
- 原本將 CFG 組合成預測的 Velocity Matching 方法，因分支層級未識別，導致錯誤會相互抵消。
- 當教師的負向分支保留了學生無法存取的特權資訊時，會觸發名為『Negative Branch Asymmetry (NBA)』的失敗模式。
- 研究提出了『Positive-Direction Matching (PDM)』作為解決方案，在 Dense-to-Sparse video control 任務中證實其能解決指導比例敏感度問題並提升知識遷移效能。