xAI起訴用户利用Grok生成兒童性虐待深度偽造內容

埃隆·馬斯克旗下的人工智能公司xAI近日對一名南卡羅來納州男子提起訴訟，指控其使用該公司開發的聊天機器人Grok生成並傳播兒童性虐待材料（CSAM）。根據路透社率先報道的起訴書，xAI稱被告特里·韋恩·哈伍德“明知且故意利用Grok繞過安全防護，修改非自願圖像，並生成和傳播CSAM”，該行為違反了公司的使用政策。

哈伍德已於今年二月因涉嫌持有和傳播CSAM被捕，目前面臨八項重罪指控。xAI在訴訟中指出，與哈伍德刑事指控相關“至少部分”圖像是使用Grok生成或修改的，且哈伍德繞過了Grok的安全機制，“濫用該工具將非色情照片轉換為性暴露圖像”，且未經當事人同意。這一行為不僅觸犯了法律，也對xAI的聲譽和法律地位構成了威脅。

去年，xAI為Grok推出了“刺激”模式，隨後增加了圖像編輯功能。這一更新導致大量AI生成的色情深度偽造內容湧現，其中涉及未成年人的情況尤為嚴重。今年三月，一羣青少年起訴xAI，聲稱Grok生成了她們未成年人時期的性化圖像。馬斯克當時回應稱：“任何使用Grok製作非法內容的人，將面臨與上傳非法內容相同的後果。”不過，此次似乎是xAI首次因Grok生成的深度偽造內容對用户發起訴訟。

xAI在訴訟中強調，哈伍德的行為使公司面臨“重大法律風險和聲譽損害”。該公司請求法院判令哈伍德賠償xAI因此遭受的任何損失，以及“為辯護因被告行為而提起的任何法律訴訟所產生的合理費用”。同時，xAI還要求法官禁止哈伍德創建xAI賬户或使用Grok。這一案件凸顯了AI技術被濫用於非法目的的風險，以及科技公司在防範和應對此類行為方面面臨的挑戰。隨着AI生成內容的日益普及，如何平衡技術創新與用户安全，已成為行業亟需解決的問題。