跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

藉助 Genie 推動數據代理的前沿發展

文章摘要

Databricks 的 Genie 是一款先進的數據代理,旨在回答關於企業數據的複雜問題,涵蓋結構化和非結構化數據源。本文介紹數據代理面臨的獨特挑戰,並提出解決這些挑戰的技術,包括專門知識搜索、並行思維和多 LLM 設計。實驗表明,這些技術能將 Genie 的準確率從 32% 提升至 90% 以上,同時顯著降低成本和延遲。

藉助 Genie 推動數據代理的前沿發展
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Databricks 在其博客中發佈了 Genie,這是一款最先進的數據代理,專為回答關於企業數據的複雜問題而設計。Genie 能夠處理結構化和非結構化數據源,包括表格、儀表板、筆記本以及工作區文件、Google Drive 和 Sharepoint 等。與傳統的編碼代理不同,數據代理在一個動態且不斷演變的 Data Lakehouse 環境中運行,該環境包含數十萬表格、筆記本、儀表板和文檔的豐富語義上下文。

數據代理面臨三大獨特挑戰。首先,數據發現的規模巨大,企業客户擁有數百萬個結構化和非結構化數據源,傳統的搜索方法無法有效處理。其次,確定業務知識的“真相來源”非常困難,因為業務知識往往分散在多個可能過時或矛盾的來源中。最後,數據代理缺乏可驗證的測試,因為用户查詢通常是開放式的,沒有預定義的正確答案。

為了應對這些挑戰,Genie 引入了三項關鍵技術創新。專門知識搜索利用現有數據資產構建豐富的語義上下文,並據此構建搜索索引,從而顯著提升搜索質量。並行思維通過採樣多條軌跡並彙總各軌跡的相關信息來計算最終答案,避免了沒有單元測試的窘境。多 LLM 設計則針對不同子代理使用不同的 LLM,每種 LLM 都經過優化提示,以最大化準確性和成本效益。

實驗結果顯示,這些技術顯著提升了 Genie 的性能。在內部基準測試中,與領先的編碼代理相比,Genie 的準確率從 32% 提升至 90% 以上,同時成本和延遲大幅降低。例如,專門知識搜索使表格搜索性能提升了 40%,並行思維則進一步提高了答案准確率。通過多 LLM 設計和 GEPA 優化的提示,Genie 能夠在不同模型間無縫切換,實現成本與準確性的最佳平衡。

儘管取得了顯著進展,數據代理領域仍有許多開放的挑戰需要探索。例如,如何更好地處理數據不完整的情況,以及如何進一步提升代理的自我糾正能力。Databricks 表示,這個領域的研究極具前景,將繼續致力於為企業構建最先進的數據代理。

展開要點與分析

文章情報

工程師進階

要點

  • Genie 是 Databricks 的最新一代數據代理,專為處理複雜企業數據查詢而設計。
  • 數據代理面臨數據發現規模大、確定業務知識來源權威性以及缺乏可驗證測試三大挑戰。
  • 關鍵技術包括專門知識搜索、並行思維和多 LLM 設計,顯著提升準確率並降低成本。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。