dRAE：帶有超球面碼的表示自動編碼器
為何重要
dRAE 修正了歐幾裡得度量與表示空間各向異性幾何之間的根本性不匹配，提出一種更穩定的視覺 Tokenizer 方案。這對於降低 Vision-Language Models 的運算成本與提升多模態整合的可靠性具有重要意義，尤其是對於追求高效生成與理解的下游應用。
為瞭解決現有量化方法的 codebook collapse 問題並銜接語言模型高維表示，研究提出透過幾何對齊來改善擴充套件性與語義一致性。
- 核心創新為 Hyper-Spherical Quantization (HSQ)，該方法透過角路由將語義內容與特徵幅度分離，避免分配被量級幹擾。
- dRAE 在解剖碼本利用率達到 100%、詞彙大小擴充套件至 131,072 時，仍能維持高保真重建與語義完整性。
- 該方法支援簡化的訓練管道，並在理解與生成任務上展現強勁且一致的表現。