在苏丹,社区依赖地下水进行饮用、灌溉和生存,但钻井的成功率并不高。复杂的地质条件、多变的含水层以及昂贵的钻井费用使得获取地下水成为一项挑战。数十年的地质调查和现场报告中包含改善钻井结果所需的数据,但这些信息分散在档案馆中,从未被系统化整理,导致需要这些数据的人无法有效获取。
MapAid是一家由斯坦福大学创立的非营利组织,其使命是通过AI增强的地图技术,帮助人道主义和发展机构(主要在非洲)做出数据驱动的决策。他们的旗舰工具WellMapr应用利用AI和地理空间数据识别浅层地下水区域,指导低成本钻井,为小农户提供饮用水和灌溉水源。该模型的关键输入是历史井、钻孔和含水层地质数据。
苏丹知识档案协会(SUDAAK)拥有最丰富的数据集之一:近700份扫描的PDF、TIFF和JPG文件,总计超过5000页的地质调查、钻井报告和实地研究,可在wossac.com上公开获取。然而,可获取并不等同于可访问。研究人员若需查找苏丹特定区域的钻孔数据,必须手动翻阅数百份文档。数据虽已数字化,但因缺乏检索系统,仍然未被充分利用。
Databricks与MapAid合作,构建了一个AI驱动的管道,对档案中的每份文档进行分类、添加地理和主题元数据,并从水相关文档中提取结构化的井和钻孔记录。该系统完全在Databricks上运行,并打包为单命令部署。技术方法的核心是将问题重构为视觉理解:将扫描页面图像直接发送给多模态AI模型,由其直观地解读内容。
管道的智能采样策略降低了处理成本:较短的文档全部分析,较长的文档则从最信息丰富的部分(标题页、引言和结论)采样。这使AI处理量减少了70%以上,同时保持了分类质量。每个采样页面通过Databricks AI Functions(ai_query)进行分析,该函数原生支持多模态输入和结构化JSON输出。模型检查每个页面图像并返回杜威十进制分类代码、引用的苏丹地理位置以及指示页面是否包含井、钻孔或含水层数据的水相关标志。
对于每个水相关文档,管道处理所有页面,使用通过Foundation Model API提供的多模态模型逐页执行OCR,该模型处理英语、阿拉伯语以及复杂布局,包括手写现场笔记、表格数据和混合格式页面。OCR期间,系统还应用实体识别方法,将井和钻孔标识符作为锚点实体,使得跨页面的记录可以链接回单个站点。所有页面的提取文本合并成一个统一的文档表示,然后进行第二次处理,提取结构化记录,包括站点名称、GPS坐标、钻井深度、静水位和抽水测试产量。
自动质量评估作为管道的一流阶段,使用单独的AI模型对每个分类进行评分,评分标准涵盖准确性、完整性和一致性。评估结果提供分类评级(优秀、良好、一般或差)和书面理由,为管道的每个决策创建可审计的追踪。评分低于置信阈值的文档标记为人工审核,仅有一小部分分类需要人工关注。
该项目利用Databricks的统一平台:原始档案文件存储在Unity Catalog Volumes中,所有管道输出写入具有ACID可靠性、模式演化和完整数据谱系的Delta Lake表。管道作为Lakeflow Job在无服务器计算上编排,MapAid只需按运行消耗付费。整个系统打包为Databricks Asset Bundle,可通过单一命令部署、更新和运行。由于管道逻辑与处理的具体档案解耦,同一系统可适应其他水档案、地区或需要分类和检索大量扫描文档的领域。
在首次完整运行中,管道对654份文档和5570页进行了分类,耗时不到三小时,95%的分类被评为“优秀”或“良好”,约50%的档案被识别为包含水相关数据,并提取了299条结构化的井和钻孔记录,包括位置名称、深度和产量测量值。管道将原本需要领域专家数周或数月的工作缩短为几小时。现在,档案可按分类、地理位置或水数据的存在进行搜索。提取的每条记录直接输入MapAid的地下水预测,支持更高的钻井成功率和更快地向社区供水。
随着SUDAAK继续数字化新文档,管道可通过单一命令处理每批新数据,确保目录随档案增长而保持最新。MapAid的工作范围覆盖东非,包括埃塞俄比亚和马拉维,类似未分类的档案遍布非洲大陆。该方法和基础设施已准备好扩展。MapAid首席执行官Rupert Douglas-Bate表示,与Databricks for Good的合作极大地加速了他们的使命,将杂乱的历史数据转化为结构化系统,助力WellMapr算法的发展。