ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

投影追蹤 CPCANet 用於領域泛化

研究 1 個來源 · 8 天前
為何重要

此研究針對性解決了小樣本訓練中常見的數學瓶頸,為影像辨識與自然語言處理等需領域泛化的場景提供了更穩固的表示學習基礎;雖非直接商業產品,但技術進展有助於提升模型在真實場景中的泛化能力。

領域泛化(DG)旨在建立對分佈偏移具備魯棒性的記表示,然而 CPCANet 等基於幾何對齊的方法受限於小樣本位元組訓練下的共變數秩不足問題。

  • 提出 Projection Pursuit CPCANet (PP-CPCANet),一個移除共變數依賴的架構,在 Stiefel 流形 上學習全域正交基底。
  • 採用 Cayley transform 聯合最佳化網路引數,並利用「對稱性破壞的中位數 PP 色散目標」來提取稠密且嚴謹的常主成分(CPCs)。
  • 經四個 DG 基準測試驗證,PP-CPCANet 在達到 SOTA(最先進)表現的同時,維持了訓練的穩定性。
CPCANetDomain GeneralizationStiefel manifoldCovariance-freeGeometric alignment

來源 · 1 篇報導

首發 Hugging Face Daily Papers huggingface.co 04:00