跳到主要內容
AI News HubLIVE
更多
僅摘要

AgentCrawl:為AI代理打造的小型自託管爬蟲

AgentCrawl 是一款輕量級自託管爬蟲,專為AI代理設計,能夠將網頁和本地文件轉換為乾淨的Markdown、文本、連結、後設資料等。它提供CLI、Python庫、HTTP API和MCP伺服器,支援持久化爬取、本地快取和儀表盤,並誠實報告被反爬機制阻止的頁面。專案尚處於早期階段,社群版聚焦於可訪問的公開內容。

來源Hacker News AI作者: Kenchi010
AgentCrawl:為AI代理打造的小型自託管爬蟲
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師中級

要點

  • AgentCrawl 提供從已知URL到乾淨Markdown的提取,包括表格、程式碼塊、後設資料和來源資訊。
  • 支援CLI、Python、Docker/API和MCP四種互動方式,方便AI代理和開發者整合。
  • 社群版具有持久化爬取、本地SQLite狀態、只讀儀表盤、安全預設設定及誠實錯誤報告等特性。
  • 專案明確社群邊界:不繞過Cloudflare等客戶端挑戰,僅用於可訪問的公開內容。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。