ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

將 Nemotron 針對希臘語訓練:語料挖掘、檢索適配與領域基礎生成

模型 1 個來源 · 1 小時前
為何重要

透過釋出 HERA 基準與適配模型,本研究填補了現代希臘語在檢索增強生成(RAG)領域的評測空缺。它證明瞭即使是針對少數語言的垂直領域,透過特定的索取與微調策略,也能大幅超越通用多語言底盤,顯示 RAG 系統在非主流語言仍有高投資報酬率的最佳化空間。

現代希臘語在 NVIDIA Nemotron 檢索模型與多語言基準中長期缺席,限制了法律與醫療等專業 RAG 應用的效能。本研究提供了從語料挖掘到模型微調的完整 Nemotron 堆疊適配方案,並推出新基準 HERA。

  • 對 Nemotron 1B embedding 引數在 65,773 個希臘語檢索對上進行微調後,nDCG@10 指標從 0.362 顯著提升至 0.835。
  • 對 Nemotron 30B-A3B mixture-of-experts 讀者進行 LoRA 微調,可將判斷答案正確率從 29.4% 提升至 66.9%。
  • 研究指出,針對專業希臘語文檢的 BM25 基線表現優於現成模型,且經過調整的交叉編碼器重排序器在各專業領域帶來一致改進。
NVIDIA NemotronRAGModern GreekHERAMixture-of-ExpertsLoRA

來源 · 1 篇報導

首發 Hugging Face Daily Papers huggingface.co 04:00