QQWorld:用於世界模型正規化的分位數-分位數匹配
為何重要
這項研究專注於解決世界模型中常見的重尾分佈偏差問題,透過改用 Rank-Matched Gaussian Quantiles,提升了 Agent 在模擬環境下的規劃穩健性。對於致力於底層強化學習和具體化世界模型的開發者而言,這提供了一種比傳統 EP 目標更適合不確定性狀況的損失函式替代方案。
潛在空間世界模型透過預測未來狀態來實現高效規劃,但傳統 LeWorldModel (LeWM) 使用 Epps-Pulley (EP) 目標來正規化潛在分佈時,面臨校正梯度在重尾樣本中迅速衰減的問題。
- 本研究提出「QQWorld」,將 EP 替換為直接對齊投影隱含樣本與 Rank-Matched Gaussian Quantiles 的分位數-分位數比對目標。
- 引進 Cross-batch QQ,利用先前批次中的 detached samples 擴大排名池,並處理偏差-變異度 取捨。
- 在四種控制環境下,該方法不僅顯著改善了 LeWM 的平均規劃成功率,還持續產生較薄的重尾分佈特性。