舊金山要求蘋果和谷歌從應用商店刪除 AI '脱衣' 應用
舊金山已正式要求蘋果和谷歌從其應用商店中移除數十款利用AI技術可數字化脱去照片中人物衣物的“脱衣”應用。加州法律將“知情協助”或“魯莽幫助或教唆”製作非自願深度偽造色情內容定為犯罪，2025年還通過了允許受害者對第三方協助者提起民事訴訟的法律。市方稱兩家公司仍在託管這些應用並從中盈利。
加利福尼亞州舊金山市正式向蘋果公司和谷歌發出命令，要求這兩家科技巨頭從其應用商店中移除數十款所謂的“脱衣”應用程序。這些程序利用人工智能技術，可以對照片進行數字處理，使其中的人物看起來未着衣物。舊金山市檢察官辦公室在一份聲明中指出，此類應用明顯違反加州現行法律。根據加州法律，任何“知情協助”或“魯莽幫助或教唆”製作非自願深度偽造色情內容的行為均構成犯罪。此外，2025年加州還通過了一項具有里程碑意義的立法，允許受害者對製作和傳播此類材料的第三方協助者提起民事訴訟，從而提供了更廣泛的法律救濟途徑。市方表示，儘管存在這些明確的法律規定，蘋果和谷歌仍然在其商店中託管這些應用，並通過廣告或應用內購買從這些應用中獲利。舊金山市要求兩家公司在指定期限內採取行動，否則可能面臨法律訴訟。這一舉措引發了關於科技平台在內容審核方面責任的更廣泛討論。