旧金山要求苹果和谷歌从应用商店移除“脱衣”应用

旧金山市检察官邱信福于本周致信苹果和谷歌，要求这两家科技巨头从各自的应用商店中移除数款利用人工智能技术生成非自愿亲密图像（即“脱衣”应用）的应用。邱信福在信中援引了加州针对深度伪造的法律，并指出这些应用可能被用于制作和传播未经同意的色情内容。

邱信福的办公室在信中特别点名了多款应用，这些应用声称能够通过AI技术“脱去”照片中人物的衣物，从而生成逼真的裸体图像。尽管苹果此前已应研究人员的要求移除了部分此类应用，但邱信福认为这远远不够，他强调应用商店运营商有责任确保其平台上的应用不违反法律或平台政策。

研究显示，这类应用正在变得越来越隐蔽。《连线》杂志的报道指出，研究人员最近警告称，一些有害应用通过仅宣传换脸功能而隐藏脱衣能力，来规避应用商店的审查。在五月份的一篇预印本论文中，研究人员识别了420款被宣传为通用换脸工具的应用，并测试了其中的155款，看它们是否可以被用于色情化处理图像。结果发现，在测试的应用中，70%可以实现脱衣功能。

与此同时，xAI的Grok聊天机器人也成为了关注的焦点。本周，xAI提起诉讼，确认发现有用户利用Grok生成儿童性虐待材料（CSAM）以及其他针对成人的非自愿亲密图像（NCII）。为阻止Grok的滥用，xAI起诉了据称诱导Grok生成非法内容的用户，但问题在于xAI是否应对其输出内容负责。自Grok丑闻爆发以来，应用商店一直面临质疑：xAI的聊天机器人是否违反了应用商店关于有害内容的政策。今年四月，苹果曾向参议员表示已私下威胁要移除Grok，但至今Grok应用仍留在应用商店中。

只要Grok有可能被用于生成非法内容，应用商店就将继续面临采取行动以防止有害输出的压力。正如邱信福所言，如果应用商店希望遵守加州深度伪造法律，它们就必须对所有允许脱衣功能的应用采取同样的措施，即加强审核并移除违规应用。

尽管谷歌发言人表示，谷歌会持续测试生成式AI应用，确保它们具备防止NCII和CSAM生成的保障措施，但谷歌并未回应关于Grok当前表现是否违反其政策的问题。在给应用商店的信中，邱信福并未要求移除Grok，但显然他希望他的要求能有助于加强两大应用商店的执行力度，首先从其办公室标记的应用入手。

“我希望苹果和谷歌能立即移除这些应用，并加强它们的筛选系统，确保此类应用未来永远不会出现在它们的平台上，”邱信福表示。“我们希望这些公司能做正确的事——但如果它们不这么做，我们将不得不考虑所有法律选项。”