跳到主要内容
AI News HubLIVE
更多
仅摘要

AgentCrawl:为AI代理打造的小型自托管爬虫

AgentCrawl 是一款轻量级自托管爬虫,专为AI代理设计,能够将网页和本地文档转换为干净的Markdown、文本、链接、元数据等。它提供CLI、Python库、HTTP API和MCP服务器,支持持久化爬取、本地缓存和仪表盘,并诚实报告被反爬机制阻止的页面。项目尚处于早期阶段,社区版聚焦于可访问的公开内容。

来源Hacker News AI作者: Kenchi010
AgentCrawl:为AI代理打造的小型自托管爬虫
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明

本文仅提供摘要

根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。

展开要点与分析

文章情报

工程师中级

要点

  • AgentCrawl 提供从已知URL到干净Markdown的提取,包括表格、代码块、元数据和来源信息。
  • 支持CLI、Python、Docker/API和MCP四种交互方式,方便AI代理和开发者集成。
  • 社区版具有持久化爬取、本地SQLite状态、只读仪表盘、安全默认设置及诚实错误报告等特性。
  • 项目明确社区边界:不绕过Cloudflare等客户端挑战,仅用于可访问的公开内容。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。