AI News HubLIVE
站内改写1 分钟阅读

Heron:AI代理的Wireshark——被动eBPF可观测性

Heron是一款被动式网络分析工具,无需SDK或代理,利用eBPF技术捕获并解密TLS加密的LLM调用,重构AI代理的实际行为。它开源、基于Rust构建,已支持OpenTelemetry标准,并新增eBPF捕获发现、自动过滤隐藏侧车等功能,可帮助开发者调试代理循环和生产问题。

来源Product Hunt AI作者: Vincent Wu

Heron 是一款针对 AI 代理的被动式网络分析器,被其创造者 Netis 团队称作“AI 代理的 Wireshark”。它的核心能力是通过 eBPF 钩子,在不引入任何 SDK 或代理的情况下,从网络流量中重构 AI 代理的真实行为。这意味着开发者可以观察 TLS 加密的 LLM 调用,并精确识别出是哪个代理进程发起的调用,而完全无需修改代码或代理请求路径。

Heron 在 2024 年正式发布,并在近期推出了 v0.7.0 重大更新。此次更新全面对齐 OpenTelemetry 标准:代理轮次被建模为追踪(trace),LLM 调用被建模为跨度(span),从而无缝集成到现有的可观测性生态中。此外,新增的 eBPF 捕获发现机制通过挂钩 SSL_read/SSL_write,能够将 TLS 加密的代理流量以明文形式捕获,同时附带进程归属信息(即哪个代理进程发起的哪个调用),也无需 TLS 终结器或代理。

团队在开发过程中发现了一个有趣的现象:在捕获的 Claude Code 生产流量中,约 73% 的 Opus 轮次实际上是隐藏的安全监控侧车(sidecar)进程产生的。Heron 现在可以自动过滤这些“家务型”噪音,让开发者只看到真正的代理工作负载。

另一个亮点是“一键 SFT 轨迹导出”功能:用户可以将生产环境中的代理调用轨迹直接导出为监督式微调(SFT)格式的训练数据,无需重新运行任何工作流即可快速生成微调数据集。

Heron 完全基于 Rust 构建,发布为一个单二进制文件,并内嵌了 React 控制台界面。它采用 Apache-2.0 许可证开源。团队强调其设计原则是:即使 Heron 自身变慢或失败,也不应阻塞代理的正常流量;它可能会在资源压力下丢失可观测性数据,但不会干扰代理本身。

对于性能影响,团队建议在生产环境中先以被动/影子模式部署,调整保留策略和请求体大小限制,并监控 CPU、内存和磁盘 I/O,再逐步扩大覆盖范围。对于进程识别,Heron 在 eBPF 层通过 PID 追踪并结合进程树关联来区分同一主机上多个代理进程对同一 LLM 端点的调用。