OxyJen v0.5:用於AI工作流的確定性圖形執行時
OxyJen是一個開源的Java框架,用於編排LLM工作負載,提供圖形風格執行、上下文感知記憶體和確定性重試/回退。它專為Java企業環境設計,旨在提供可靠的生產級AI管道執行引擎。
OxyJen是一個開源的Java框架,旨在為AI工作流提供確定性的圖形執行時。它由Divyansh Bhatt建立,目前處於v0.5版本,專為Java企業環境設計,以填補Java生態系統中AI編排工具的空白。
OxyJen的核心是一個基於圖形的編排框架,允許開發者構建複雜的AI管道。它提供了一種乾淨、可擴充套件的架構,用於連線LLM、資料處理器和自定義邏輯。開發者只需關注每個步驟的功能,而OxyJen則負責執行流程。與其他工具如LangChain4j不同,OxyJen專注於執行時可靠性和開發者體驗,包括非同步處理、Project Loom和Java併發支援,以構建容錯圖形結構。
該框架建立在四個核心概念之上:Graph(管道藍圖)、NodePlugin(處理單元)、Executor(執行時引擎)和NodeContext(共享狀態)。Graph定義了管道的結構,NodePlugin是每個步驟的處理邏輯,Executor負責按順序執行節點,NodeContext提供了跨節點的共享記憶體和狀態管理。示例包括一個簡單的文本處理管道,其中包含大寫、反轉和字首節點。
OxyJen的願景是為Java帶來類似LangChain/LangGraph的AI編排能力,同時構建企業優先的模組,如LLM代理、審計工具和安全複雜工作流引擎。專案路線圖包括RAG支援、成本管理、企業功能(如審計日誌、RBAC和合規性)、多租戶、斷路器、流式響應和非同步API。當前v0.5版本已釋出,可透過Maven或Gradle整合。
該專案由一名BTech電腦科學學生髮起,旨在深入學習Java併為其社群貢獻價值。OxyJen採用Apache 2.0許可證,鼓勵社群參與貢獻。目前該倉庫已獲得35顆星、2個fork,並在持續開發中。