舊金山要求蘋果和谷歌從應用商店移除“脫衣”應用

舊金山市檢察官邱信福於本週致信蘋果和谷歌，要求這兩家科技巨頭從各自的應用商店中移除數款利用人工智慧技術生成非自願親密影像（即“脫衣”應用）的應用。邱信福在信中援引了加州針對深度偽造的法律，並指出這些應用可能被用於製作和傳播未經同意的色情內容。

邱信福的辦公室在信中特別點名了多款應用，這些應用聲稱能夠透過AI技術“脫去”照片中人物的衣物，從而生成逼真的裸體影像。儘管蘋果此前已應研究人員的要求移除了部分此類應用，但邱信福認為這遠遠不夠，他強調應用商店運營商有責任確保其平臺上的應用不違反法律或平臺政策。

研究顯示，這類應用正在變得越來越隱蔽。《連線》雜誌的報道指出，研究人員最近警告稱，一些有害應用透過僅宣傳換臉功能而隱藏脫衣能力，來規避應用商店的審查。在五月份的一篇預印本論文中，研究人員識別了420款被宣傳為通用換臉工具的應用，並測試了其中的155款，看它們是否可以被用於色情化處理影像。結果發現，在測試的應用中，70%可以實現脫衣功能。

與此同時，xAI的Grok聊天機器人也成為了關注的焦點。本週，xAI提起訴訟，確認發現有使用者利用Grok生成兒童性虐待材料（CSAM）以及其他針對成人的非自願親密影像（NCII）。為阻止Grok的濫用，xAI起訴了據稱誘導Grok生成非法內容的使用者，但問題在於xAI是否應對其輸出內容負責。自Grok醜聞爆發以來，應用商店一直面臨質疑：xAI的聊天機器人是否違反了應用商店關於有害內容的政策。今年四月，蘋果曾向參議員表示已私下威脅要移除Grok，但至今Grok應用仍留在應用商店中。

只要Grok有可能被用於生成非法內容，應用商店就將繼續面臨採取行動以防止有害輸出的壓力。正如邱信福所言，如果應用商店希望遵守加州深度偽造法律，它們就必須對所有允許脫衣功能的應用採取同樣的措施，即加強稽核並移除違規應用。

儘管谷歌發言人表示，谷歌會持續測試生成式AI應用，確保它們具備防止NCII和CSAM生成的保障措施，但谷歌並未回應關於Grok當前表現是否違反其政策的問題。在給應用商店的信中，邱信福並未要求移除Grok，但顯然他希望他的要求能有助於加強兩大應用商店的執行力度，首先從其辦公室標記的應用入手。

“我希望蘋果和谷歌能立即移除這些應用，並加強它們的篩選系統，確保此類應用未來永遠不會出現在它們的平臺上，”邱信福表示。“我們希望這些公司能做正確的事——但如果它們不這麼做，我們將不得不考慮所有法律選項。”