ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Show HN: Ctrlb-decompose:在傳送至 LLM 之前透過結構化模式從日誌中移除雜訊

工具 1 個來源 · 9 天前
為何重要

此工具直擊 LLM 應用在日誌分析上的痛點,將非結構化文字轉化為具統計意義與結構的「LLM-ready reasoning surface」,讓開發者無需撰寫正規表示式即可透過自然語言提示詞解析複雜的故障模式。 這代表了一種軟體工程中的自動化趨勢,將原本需要強大計算資源的奇異值檢測轉化為標準化的資料處理流程,優化了 MLOps 的資料管道效率。

這是一個開源工具,能將數以百萬計的原始雜訊日誌線條壓縮為少數具體且可行的模式,讓大型語言模型(LLM)能更高效地處理。

  • 工具採用 CLP (Compressed Log Processor) 編碼與 Drain3 聚叢集管道,實現單次串流處理且具備極小的記憶體佔用。
  • 輸出資料包含 typed variables、quantile stats、anomaly flags 與 severity scoring,大幅化簡結構。
  • 採用 DDSketch 處理數值統計與 HyperLogLog++ 處理高基數變數,記憶體成本約每個欄位 200 位元組。
  • 支援作為 CLI 指令、Rust library 或透過 WASM 在瀏覽器執行,並可直接整合於 Claude Code 外掛中。
Show HNCtrlb-decomposeLLMLog AnalysisClaude CodeRust

來源 · 1 篇報導

首發 Hacker News Front Page github.com 21:13