旧金山要求苹果和谷歌从应用商店删除 AI '脱衣' 应用
旧金山已正式要求苹果和谷歌从其应用商店中移除数十款利用AI技术可数字化脱去照片中人物衣物的“脱衣”应用。加州法律将“知情协助”或“鲁莽帮助或教唆”制作非自愿深度伪造色情内容定为犯罪，2025年还通过了允许受害者对第三方协助者提起民事诉讼的法律。市方称两家公司仍在托管这些应用并从中盈利。
加利福尼亚州旧金山市正式向苹果公司和谷歌发出命令，要求这两家科技巨头从其应用商店中移除数十款所谓的“脱衣”应用程序。这些程序利用人工智能技术，可以对照片进行数字处理，使其中的人物看起来未着衣物。旧金山市检察官办公室在一份声明中指出，此类应用明显违反加州现行法律。根据加州法律，任何“知情协助”或“鲁莽帮助或教唆”制作非自愿深度伪造色情内容的行为均构成犯罪。此外，2025年加州还通过了一项具有里程碑意义的立法，允许受害者对制作和传播此类材料的第三方协助者提起民事诉讼，从而提供了更广泛的法律救济途径。市方表示，尽管存在这些明确的法律规定，苹果和谷歌仍然在其商店中托管这些应用，并通过广告或应用内购买从这些应用中获利。旧金山市要求两家公司在指定期限内采取行动，否则可能面临法律诉讼。这一举措引发了关于科技平台在内容审核方面责任的更广泛讨论。