透過數學與 Rust 再省下 100TB RAM
為何重要
此案例證明瞭在超大型基礎設施中，微小的軟體邏輯修正（如調整標準差）能帶來災難性的規模效益。這對於追求 FLOPS 效率而非單純堆疊硬體的大型雲端營運商至關重要，不僅降低了處理器與記憶體成本，也顯示出 RUST 生態在滿足嚴苛效能需求上的優勢。
對中文開發者而言，這是一個利用標準庫 (consistent_hashing) 結合 Rust 強健的系統效能來解決現實問題的實戰範例，強調了「攤平負載」的演算法思維比單一的「更快速」執行更重要。
Cloudflare 針對內部服務 Pingora Backend Router 中的 pingora-ketama 模組進行記憶體最佳化，利用 Rust 更善用的一致性雜湊演算法，成功在全球範圍內釋放大量記憶體。
- 在全球範圍內回收了 100TB RAM，加上 DNS 團隊上個月的成果，顯示出最佳化工作可持續累積巨大效益。
- 原有的 pingora-ketama 架構繼承自 NGINX，每個伺服器預設繫結 160 個硬編碼的雜湊點。
- 原始的一維一致性雜湊演算法導致伺服器工作負載範圍極度不均，其標準差估計佔平均值的 100%，造成資源分配失真。