ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Imp:完整移植自 DSPy 的 Elixir 程式化語言模型框架

工具 1 個來源 · 1 小時前
為何重要

Imp 代表了 DSPy 的抽象架構成功移植分散式執行時環境,解決了在 BEAM 上構建具狀態 AI 應用的開發痛點。對於依賴高可用性的企業構建跨程序代理與客戶服務系統具有技術參考價值,也反映了 AI 從單機呼叫向分散式、可靠系統架構擴充套件的趨勢。

Imp 是一個宣告式、自我改進的語言模型程式框架,專為 BEAM 執行環境移植 DSPy,允許開發者定義輸入輸出簽名並透過程式自行最佳化模型行為。

  • 執行環境需 Elixir 1.19+ 以及 C/C++ 編譯器(用於 jaxon 和 erlexec 原生模組),透過 ReqLLM 支援各類模型提供商。
  • 框架基於 OTP 監督樹運作,支援 start_run/3 建立獨立監護程序以控制執行、逾時與工具呼叫,維持高並發與可靠性。
  • 內建多種最佳化器(如 GEPA、LabeledFewShot、MIPROv2),可根據標籤集訓練、搜尋最佳策略或學習程式規則來重寫指令。
  • 支援多種模式(RLM、CodeAct 等)與沙盒運算,並提供整合 MCP 伺服器工具的能力,主要作為 Livebook 筆本與 Hex 套件發布。
ImpDSPyElixirBEAMOTPAI Framework

來源 · 1 篇報導

首發 Hacker News Front Page github.com 03:28