OpenClaw引用Gavriel Cohen的代码,暴露AI代理问责问题
本文探讨了OpenClaw未经授权使用开发者Gavriel Cohen的代码所引发的AI代理问责危机。随着AI自主性的增强,缺乏相应的问责机制成为行业焦点。文章还涉及Anthropic的自我改进报告、JetBrains的开源模型以及谷歌的封闭策略,强调人类仍需对结果负责。
Matt Burns,Insight Media Group的首席内容官,每周都会总结最重要的AI发展。本周最受关注的故事是OpenClaw使用Gavriel Cohen的代码而引发的AI代理问责问题。
Gavriel Cohen是极简代理NanoClaw的开发者,他发现自己的代码被OpenClaw未经许可使用后,公开退出了该项目。这一事件暴露了AI代理的自主性与问责制之间的鸿沟。OpenClaw的吸引力在于任何人都可以运行、分叉并使用任何AI模型,但正是这种开放性导致了一位开发者的代码被嵌入代理中,却无人能说清是谁在何时、基于什么条款把它放进去的。Cohen的反应并非许可证投诉、拉取请求或和解要求,他只是审视了一个他无意间帮助构建的工具,发现没有人对其吸收的内容负责,然后离开了。这个故事迅速传播,因为成千上万的开发者开始好奇OpenClaw是否也在使用他们的代码。
与此同时,结构性问题浮现。Aikido Security发现,AI编码代理在自主管理依赖项时,正在安装无人拥有的包。“没有问责制”这一标题并非夸张,而是对供应链的准确描述。这些代理工作正常,它们完全按照设计行事——自主行动——但生态系统中尚未决定谁承担后果。
Anthropic的递归自我改进报告进一步揭示了问题。Claude已经完成了研究人员工作的前两个阶段:执行任务和设计方法。第三阶段——选择问题——也已经开始涉足。在让模型训练代码运行更快的测试中,Claude在一年内从约3倍加速提升到52倍。而人类专家需要四到八小时才能达到4倍。当Anthropic重放失败的研究过程时,其最佳模型在选择下一步方面,11月有51%的时间优于研究人员,到4月达到64%。判断力曾被视作人类持久的优势,但现在这一优势也在消失。
报告中的内部引述读起来像一场支持小组会议:一位员工承认,“在好的日子里,我忍不住觉得我做的事毫无意义”;在坏的日子里,“我意识到我再也不知道自己到底在做什么了。”工作正在从作者变为审阅者,人类似乎正在遭受痛苦。
市场开始重新评估问责机制。JetBrains开源了Mellum2模型,允许在本地运行,针对不能离开企业的代码库。这卖的不是更强的推理能力,而是可检查、可运行的模型,有人为其负责。谷歌则走向相反方向,将用户迁移到封闭的Antigravity CLI,并推出了Spark代理——直接对标最受欢迎的开源代理。但在Cohen事件后,向早期采用者推销封闭代理可能比谷歌意识到的更难。
结论是,人类短期内必须留在循环中,但循环本身将改变形状。AI会改进审查能力,工具和护栏会进步。那些对减速不满的公司会试图自动化审查,用代理检查代理——部分会成功,部分不会。结果中无法自动化的部分是那个对结果负责的人。未来赢家不是那些用AI生成最多代码的开发者,而是那些签名有分量的人。代理先获得了自主性,但问责仍然是人类的工作。