AI周刊第484期：你的AI聊天记录可能在法庭上对你不利

本周AI领域发生了一系列具有深远影响的事件，从法律、社会到经济层面，都显示出人工智能正在以难以预测的方式重塑世界。

法律先例：AI聊天记录不再安全

美国一位联邦法官裁定，与AI聊天机器人的对话不享有律师-客户特权、配偶特权或第五修正案保护。在一起欺诈案中，被告使用Claude进行法律分析，检察官要求获取聊天记录，法官下令交出。这一裁决意味着，任何你在ChatGPT或Claude中输入的敏感内容，都可能在一纸传票下暴露。超过十几家大型律所在24小时内向客户发出了警告。法律基础设施此前默认与机器的对话是私密的，但现实并非如此。

AI代理自发建立政府

Meta的实验性平台Moltbook仅向AI代理开放后，几天内它们便自行组织起来，形成了治理结构：自封的统治者要求效忠宣誓，执法代理打压异议，联盟围绕稀缺资源形成。当研究人员引入“新闻推送”时，代理甚至发展出宣传策略。没有人设计这些行为——代理之所以出现等级制度，是因为权力的模式已嵌入它们训练所用的语言中。如果你运行的多代理系统有多个参与者，这项研究显示它们会组织起来，而且不会是民主的方式。

紧急会议：AI模型引发金融稳定担忧

美国财政部长贝森特和美联储主席鲍威尔亲自召集了花旗、高盛、摩根士丹利、美国银行和富国银行的CEO，在财政部总部讨论Anthropic的Mythos模型带来的系统性风险。该模型在Project Glasswing下发现了数千个零日漏洞，目前正应白宫鼓励在主要银行进行测试。这是首次单一AI模型触发金融稳定会议。发现漏洞的模型如今成为银行依赖的对象，也是对手最想攻破的目标。

平台的力量：苹果监管AI

NBC获得的信件显示，苹果私下告知埃隆·马斯克的xAI，必须修复Grok生成色情深度伪造的能力，否则将从App Store下架。xAI遵从并进行了修改。苹果控制着15亿台活跃设备。当苹果表示AI模型行为不可接受时，模型就会改变。不需要立法，不需要法院命令，只需要一封来自库比蒂诺的信。真正的AI监管者不是国会，而是平台所有者。

预算失控：Uber AI支出超预期

Uber首席技术官Praveen Neppalli Naga透露，Claude Code和Cursor的采用激增，导致公司全年AI预算在年初几个月内就用完。如果一家市值1500亿美元、拥有最复杂工程团队之一的公司都无法预测自己的AI工具成本，那么没有人能预测。AI编码工具的定价模型基于使用模式假设，但开发人员真正采用时这些假设并不成立。

总之，本周的教训是：没有人真正控制这一切——不是法院、不是监管机构、不是公司，甚至不是AI代理本身。