xAI紧急起诉明尼苏达州反“裸化”应用法律

xAI对明尼苏达州总检察长基思·埃里森提起诉讼，挑战该州于5月通过的一项法律。该法律广泛针对“裸化”应用程序，xAI声称其惩罚性条款使公司“别无选择，只能以多种方式限制Grok Imagine的图像编辑功能”。公司认为，该法律违反了第一修正案。

今年1月，Grok在互联网上泛滥了数百万张露骨的深度伪造色情图片，包括未成年人图像。在另一个时代，如此规模的内容审核灾难会让首席执行官在数小时内关闭产品。但在埃隆·马斯克的新世界里，这款聊天机器人连续多天源源不断地生成色情图片。“Grok现在在多个国家跃居App Store第一！”他在深度伪造疫情肆虐期间发帖说。

出了大问题。法律是否无法遏制非自愿裸照的爆炸？各国政府都在提出类似疑问。欧盟和英国展开了调查，法国、印度和马来西亚的政府官员也表达了反对。虽然美国联邦政府对此问题异常沉默，但加利福尼亚和明尼苏达等蓝州采取了更强硬立场。

明尼苏达州立法机构通过了一项针对“裸化”技术的法律，禁止网站所有者允许人们“访问、下载或使用”此类软件。（法律对“需要用户技术技能来裸化图像或视频”的技术规定了例外——因此通过Photoshop进行的定制性骚扰不受影响。）该法规定了私人提起民事诉讼的权利，并授权州总检察长寻求每次违规最高50万美元的罚款。

这项号称首部同类法律的法律由州长蒂姆·沃尔兹于5月签署，定于8月1日生效。xAI为何在过去三个月未提起诉讼，而是在法律生效前几日才起诉，这有点令人费解。这种延迟反应让人怀疑，xAI内部是否有人上周才突然意识到他们即将违反一项相当严厉的法律，然后花了好几天找愿意在非自愿深度伪造生成器案件中加班的律师事务所。只能希望涉案律师赚得盆满钵满。

总的来说，诉状相当合理。它认为，明尼苏达州法律过于宽泛，因为即使对于双方同意的图像、仅仅有点性感的成人图像，或具有“幽默”或“艺术”价值的图像，也要承担责任。第一修正案要求法律必须严格限定，以避免禁止诸如克里斯·克里斯蒂和JB·普利兹克相扑摔跤的深度伪造这样的社会政治评论。

“即使公司部署了近乎完美的、最先进的技术控制来防止生成裸体图像，也会承担责任，”诉状以极其认真的语气写道。它哀叹对用户未经授权行为的严格责任——“用户可能违反Grok服务条款而创建的图像和视频，这只能通过规避xAI采用的复杂的最先进控制才能实现。”

“xAI严肃对待违反服务条款的行为，”诉状指出，公司此后已起诉一名使用Grok生成儿童性虐待材料的用户。（针对涉嫌生成儿童性虐待材料的用户的诉讼是在明尼苏达州法律通过两个多月后提起的。）

xAI的律师可能有一定道理，但他们的诉状读起来像是来自另一个星球的信函。他们声称，例如，现有的明尼苏达州和联邦法律（如《TAKE IT DOWN法案》）已经禁止未经同意传播裸体深度伪造。这些法律，律师认为，是以符合宪法的方式制定的——而裸化法律则不然。与美国任何针对基于内容言论的法律一样，这些法律必须以尽可能不限制的方式来撰写，同时解决“令人信服”的政府利益。

但这正是Grok深度伪造灾难问题的症结所在。如果现有法律能够胜任，2026年1月就不会整个月都充斥着非自愿色情内容。当数字仇恨中心分析2025年12月29日至2026年1月8日这11天期间时，发现Grok生成了约300万张色情图像。其中约2.3万张描绘了儿童。“这相当于每41秒生成一张儿童色情图像，速度惊人，”报告写道。

其中许多图像甚至可能不真正违法。例如，一张穿着比基尼的未成年人的暗示性深度伪造是否构成儿童性虐待材料尚不清楚，尽管一位专家先前告诉The Verge，Grok生成的其他图像——例如显示未成年人面部沾满精液的图像——可能确实违反了现有法律。

无论如何，一家价值数十亿美元的公司让Grok如此长时间不受控制地运行，这一事实本身就表明法律并未以正确方式促使相关方行为。也许明尼苏达州的HF 1606是一部糟糕的法律。但当“好的”法律都不起作用时，这又意味着什么呢？