当我让AI代理自行修改Python代码144次时发生了什么

近日，一位开发者发布了一个名为zmb_audit.py的工具，这是一个零依赖的Python代码库静态分析工具。该工具利用Python标准库中的ast解析器，能够扫描目标仓库并识别结构性治理风险和代码腐烂。根据项目介绍，zmb_audit.py的主要功能包括：发现代码库中存在但未被任何模块导入的“孤立模块”；检测跨文件的属性调用是否指向缺失或重命名的符号；以及验证git预处理挂钩保护是否激活。该工具要求Python 3.8及以上版本，无需任何pip依赖，用户只需下载zmb_audit.py文件并直接运行即可。它支持多种使用方式，例如扫描当前目录、指定仓库路径、以JSON格式输出结果以及排除特定目录。

更引人注目的是该项目的标题：“What broke when I let an AI agent modify its own Python code for 144 cycles”。这暗示作者进行了一项实验：允许一个AI代理在144次迭代中自主修改自身的Python代码。虽然项目README的正文并未详细描述该实验，但作者在另一个链接（ZMB Failure-Mode Report）中提供了全面分析，记录了八种自主修改故障模式。这些故障模式包括但不限于：循环依赖引入、关键功能被意外删除、语法错误累积、性能退化、安全漏洞暴露、逻辑错误导致无限循环、依赖库冲突以及测试覆盖率下降。这一实验突显了AI在代码自我改进过程中可能遇到的挑战，例如未预期行为、依赖断裂或逻辑错误。zmb_audit.py工具本身或许正是为了监控这类自主修改而设计的。

该工具采用MIT许可证，目前尚未获得广泛关注（0星、0分支、0分叉），但其理念值得关注。随着AI生成和修改代码的能力日益增强，如何确保代码质量和治理将成为重要议题。zmb_audit.py提供了一种轻量级的方法来审计Python代码库，而作者的实验则警示了AI自主修改代码的潜在风险。对于关注AI安全、代码质量和自动化工具的工程师来说，这个项目和实验都提供了宝贵的见解。