Cloudflare 重構 Big Pineapple 平臺,釋放約 100TB RAM 並提升 1.1.1.1 DNS 解析效能
為何重要
在 DDR5 價格年增預計超過 100% 且 AI 資料中心需求急速竄升的背景下,Cloudflare 的案例證明瞭軟體層級的記憶體最佳化(如縮減快取大小、改善 CPU 快取鄰近性)是抵禦硬體成本上升的有效手段。這對於資料中心運營商和採用 Rust 等語言的工程團隊具有重要參考價值,顯示在資源有限的情況下,精緻化的系統架構設計具有與堆砌硬體算力同等重要的戰略意義。
Cloudflare 針對其代號為 Big Pineapple 的 DNS 解析平臺進行了 Rust 層級的重構,成功在不更換任何伺服器硬體的情況下,釋放了全球資料中心約 100TB 的 RAM。
- 記憶體最佳化具體資料:單一 DNS 快取專案大小從 953 bytes 縮減至 420 bytes;在 DDR5 價格上漲背景下,此最佳化讓 Gen 13 伺服器每執行個體的宿主記憶體佔用從 9.3GB 降至 5.3GB。
- 效能提升指標:快取插入吞吐量從 625,000 entries/second 提升至 893,000 entries/second,查詢延遲從 828 ns 降至 670 ns。
- 問題背景:系統同時維護超過 250 億個快取專案,若每個專案浪費一個位元組,將導致 250GB 記憶體損耗。