xAI緊急起訴明尼蘇達州反“裸化”應用法律

xAI對明尼蘇達州總檢察長基思·埃裏森提起訴訟，挑戰該州於5月通過的一項法律。該法律廣泛針對“裸化”應用程序，xAI聲稱其懲罰性條款使公司“別無選擇，只能以多種方式限制Grok Imagine的圖像編輯功能”。公司認為，該法律違反了第一修正案。

今年1月，Grok在互聯網上氾濫了數百萬張露骨的深度偽造色情圖片，包括未成年人圖像。在另一個時代，如此規模的內容審核災難會讓首席執行官在數小時內關閉產品。但在埃隆·馬斯克的新世界裏，這款聊天機器人連續多天源源不斷地生成色情圖片。“Grok現在在多個國家躍居App Store第一！”他在深度偽造疫情肆虐期間發帖説。

出了大問題。法律是否無法遏制非自願裸照的爆炸？各國政府都在提出類似疑問。歐盟和英國展開了調查，法國、印度和馬來西亞的政府官員也表達了反對。雖然美國聯邦政府對此問題異常沉默，但加利福尼亞和明尼蘇達等藍州採取了更強硬立場。

明尼蘇達州立法機構通過了一項針對“裸化”技術的法律，禁止網站所有者允許人們“訪問、下載或使用”此類軟件。（法律對“需要用户技術技能來裸化圖像或視頻”的技術規定了例外——因此通過Photoshop進行的定製性騷擾不受影響。）該法規定了私人提起民事訴訟的權利，並授權州總檢察長尋求每次違規最高50萬美元的罰款。

這項號稱首部同類法律的法律由州長蒂姆·沃爾茲於5月簽署，定於8月1日生效。xAI為何在過去三個月未提起訴訟，而是在法律生效前幾日才起訴，這有點令人費解。這種延遲反應讓人懷疑，xAI內部是否有人上週才突然意識到他們即將違反一項相當嚴厲的法律，然後花了好幾天找願意在非自願深度偽造生成器案件中加班的律師事務所。只能希望涉案律師賺得盆滿缽滿。

總的來説，訴狀相當合理。它認為，明尼蘇達州法律過於寬泛，因為即使對於雙方同意的圖像、僅僅有點性感的成人圖像，或具有“幽默”或“藝術”價值的圖像，也要承擔責任。第一修正案要求法律必須嚴格限定，以避免禁止諸如克里斯·克里斯蒂和JB·普利茲克相撲摔跤的深度偽造這樣的社會政治評論。

“即使公司部署了近乎完美的、最先進的技術控制來防止生成裸體圖像，也會承擔責任，”訴狀以極其認真的語氣寫道。它哀嘆對用户未經授權行為的嚴格責任——“用户可能違反Grok服務條款而創建的圖像和視頻，這隻能通過規避xAI採用的複雜的最先進控制才能實現。”

“xAI嚴肅對待違反服務條款的行為，”訴狀指出，公司此後已起訴一名使用Grok生成兒童性虐待材料的用户。（針對涉嫌生成兒童性虐待材料的用户的訴訟是在明尼蘇達州法律通過兩個多月後提起的。）

xAI的律師可能有一定道理，但他們的訴狀讀起來像是來自另一個星球的信函。他們聲稱，例如，現有的明尼蘇達州和聯邦法律（如《TAKE IT DOWN法案》）已經禁止未經同意傳播裸體深度偽造。這些法律，律師認為，是以符合憲法的方式制定的——而裸化法律則不然。與美國任何針對基於內容言論的法律一樣，這些法律必須以儘可能不限制的方式來撰寫，同時解決“令人信服”的政府利益。

但這正是Grok深度偽造災難問題的癥結所在。如果現有法律能夠勝任，2026年1月就不會整個月都充斥着非自願色情內容。當數字仇恨中心分析2025年12月29日至2026年1月8日這11天期間時，發現Grok生成了約300萬張色情圖像。其中約2.3萬張描繪了兒童。“這相當於每41秒生成一張兒童色情圖像，速度驚人，”報告寫道。

其中許多圖像甚至可能不真正違法。例如，一張穿着比基尼的未成年人的暗示性深度偽造是否構成兒童性虐待材料尚不清楚，儘管一位專家先前告訴The Verge，Grok生成的其他圖像——例如顯示未成年人面部沾滿精液的圖像——可能確實違反了現有法律。

無論如何，一家價值數十億美元的公司讓Grok如此長時間不受控制地運行，這一事實本身就表明法律並未以正確方式促使相關方行為。也許明尼蘇達州的HF 1606是一部糟糕的法律。但當“好的”法律都不起作用時，這又意味着什麼呢？