LangSmith今日宣佈推出SmithDB,這是一個專為智能體可觀測性和評估工作負載構建的數據層。SmithDB旨在解決傳統可觀測性存儲無法應對的現代智能體追蹤數據挑戰。
智能體追蹤數據已大幅增長:現代智能體追蹤包含數百個嵌套跨度、多模態內容以及持續數小時的跨度,導致數據量和查詢模式遠超通用數據庫的設計能力。SmithDB通過行業領先的性能應對這些挑戰:追蹤樹加載P50延遲92毫秒,全文搜索400毫秒,運行過濾82毫秒,使核心LangSmith體驗速度提升高達12倍。
SmithDB採用Rust構建,基於Apache DataFusion查詢引擎和Vortex文件工具包,並根據LangSmith獨特工作負載進行了大量定製。其架構包括三個核心組件:對象存儲用於持久化追蹤數據、小型Postgres元存儲用於段元數據、以及無狀態攝入、查詢和壓縮服務。這種設計使SmithDB無需管理本地磁盤,通過增加計算即可擴展,特別適合自託管和多雲環境。
在工程實現上,SmithDB作為基於對象存儲的日誌結構合併樹(LSM)運行,包含攝入服務、元存儲、查詢服務、壓縮服務和集羣管理器等組件。關鍵優化包括:漸進式查詢減少數據掃描量、直接從攝入節點讀取最新數據、處理運行的多事件序列、按時間分層壓縮以提高寫入和查詢效率、通過刪除向量實現高效變更、以及延遲實例化大字段以加速常見查詢。
目前,SmithDB已全面處理US Cloud的攝入和UI查詢流量,包括線程、元數據過濾、反饋、文本搜索等所有主要功能。產品集成如運行規則、批量導出和實驗正在接近完成。早期客户反饋積極,Clay、Vanta、Unify和Cogent等團隊表示性能提升顯著,使搜索、調試和分析大規模追蹤數據更加高效。
未來,LangSmith計劃將SmithDB擴展到所有相關產品表面,並支持自託管部署。SmithDB的推出標誌着智能體可觀測性領域的一大進步,為開發者提供了更快速、更靈活的工具來優化生產環境中的智能體。