跳到主要內容
AI News HubLIVE
站內改寫3 分鐘閱讀

解鎖檔案館:將非結構化文檔轉化為可搜索的地下水發現數據庫

文章摘要

MapAid與Databricks for Good合作,利用多模態AI對近700份蘇丹水文地質掃描文檔進行分類和編目,構建了一個可搜索的數據庫,使研究人員能快速定位歷史數據,支撐地下水預測模型,提高鑽井成功率。

解鎖檔案館:將非結構化文檔轉化為可搜索的地下水發現數據庫
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在蘇丹,社區依賴地下水進行飲用、灌溉和生存,但鑽井的成功率並不高。複雜的地質條件、多變的含水層以及昂貴的鑽井費用使得獲取地下水成為一項挑戰。數十年的地質調查和現場報告中包含改善鑽井結果所需的數據,但這些信息分散在檔案館中,從未被系統化整理,導致需要這些數據的人無法有效獲取。

MapAid是一家由斯坦福大學創立的非營利組織,其使命是通過AI增強的地圖技術,幫助人道主義和發展機構(主要在非洲)做出數據驅動的決策。他們的旗艦工具WellMapr應用利用AI和地理空間數據識別淺層地下水區域,指導低成本鑽井,為小農户提供飲用水和灌溉水源。該模型的關鍵輸入是歷史井、鑽孔和含水層地質數據。

蘇丹知識檔案協會(SUDAAK)擁有最豐富的數據集之一:近700份掃描的PDF、TIFF和JPG文件,總計超過5000頁的地質調查、鑽井報告和實地研究,可在wossac.com上公開獲取。然而,可獲取並不等同於可訪問。研究人員若需查找蘇丹特定區域的鑽孔數據,必須手動翻閲數百份文檔。數據雖已數字化,但因缺乏檢索系統,仍然未被充分利用。

Databricks與MapAid合作,構建了一個AI驅動的管道,對檔案中的每份文檔進行分類、添加地理和主題元數據,並從水相關文檔中提取結構化的井和鑽孔記錄。該系統完全在Databricks上運行,並打包為單命令部署。技術方法的核心是將問題重構為視覺理解:將掃描頁面圖像直接發送給多模態AI模型,由其直觀地解讀內容。

管道的智能採樣策略降低了處理成本:較短的文檔全部分析,較長的文檔則從最信息豐富的部分(標題頁、引言和結論)採樣。這使AI處理量減少了70%以上,同時保持了分類質量。每個採樣頁面通過Databricks AI Functions(ai_query)進行分析,該函數原生支持多模態輸入和結構化JSON輸出。模型檢查每個頁面圖像並返回杜威十進制分類代碼、引用的蘇丹地理位置以及指示頁面是否包含井、鑽孔或含水層數據的水相關標誌。

對於每個水相關文檔,管道處理所有頁面,使用通過Foundation Model API提供的多模態模型逐頁執行OCR,該模型處理英語、阿拉伯語以及複雜佈局,包括手寫現場筆記、表格數據和混合格式頁面。OCR期間,系統還應用實體識別方法,將井和鑽孔標識符作為錨點實體,使得跨頁面的記錄可以鏈接回單個站點。所有頁面的提取文本合併成一個統一的文檔表示,然後進行第二次處理,提取結構化記錄,包括站點名稱、GPS座標、鑽井深度、靜水位和抽水測試產量。

自動質量評估作為管道的一流階段,使用單獨的AI模型對每個分類進行評分,評分標準涵蓋準確性、完整性和一致性。評估結果提供分類評級(優秀、良好、一般或差)和書面理由,為管道的每個決策創建可審計的追蹤。評分低於置信閾值的文檔標記為人工審核,僅有一小部分分類需要人工關注。

該項目利用Databricks的統一平台:原始檔案文件存儲在Unity Catalog Volumes中,所有管道輸出寫入具有ACID可靠性、模式演化和完整數據譜系的Delta Lake表。管道作為Lakeflow Job在無服務器計算上編排,MapAid只需按運行消耗付費。整個系統打包為Databricks Asset Bundle,可通過單一命令部署、更新和運行。由於管道邏輯與處理的具體檔案解耦,同一系統可適應其他水檔案、地區或需要分類和檢索大量掃描文檔的領域。

在首次完整運行中,管道對654份文檔和5570頁進行了分類,耗時不到三小時,95%的分類被評為“優秀”或“良好”,約50%的檔案被識別為包含水相關數據,並提取了299條結構化的井和鑽孔記錄,包括位置名稱、深度和產量測量值。管道將原本需要領域專家數週或數月的工作縮短為幾小時。現在,檔案可按分類、地理位置或水數據的存在進行搜索。提取的每條記錄直接輸入MapAid的地下水預測,支持更高的鑽井成功率和更快地向社區供水。

隨着SUDAAK繼續數字化新文檔,管道可通過單一命令處理每批新數據,確保目錄隨檔案增長而保持最新。MapAid的工作範圍覆蓋東非,包括埃塞俄比亞和馬拉維,類似未分類的檔案遍佈非洲大陸。該方法和基礎設施已準備好擴展。MapAid首席執行官Rupert Douglas-Bate表示,與Databricks for Good的合作極大地加速了他們的使命,將雜亂的歷史數據轉化為結構化系統,助力WellMapr算法的發展。

展開要點與分析

文章情報

工程師進階

要點

  • 通過多模態AI和Databricks平台,將700份掃描文檔(超過5000頁)分類並提取水相關數據。
  • 智能採樣策略減少70%以上處理成本,自動質量評估確保95%分類達到優秀或良好。
  • 提取299條結構化井和鑽孔記錄,直接輸入MapAid的WellMapr模型,提升鑽井成功率。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。

解鎖檔案館:將非結構化文檔轉化為可搜索的地下水發現數據庫 | AI News Hub