埃隆·馬斯克的人工智能初創公司xAI已對一名南卡羅來納州男子提起訴訟，該男子今年早些時候因性侵未成年人被捕，被指控濫用公司的AI系統Grok生成兒童性虐待材料。此案於週二在德克薩斯州聯邦法院提起，xAI指控Terry Harwood違反了公司的服務條款。這是AI公司首次因其用户涉嫌使用AI系統生成兒童性虐待材料而採取法律行動，標誌着AI治理領域的一個重要里程碑。
xAI在聲明中表示，公司對任何形式的兒童性虐待材料持零容忍態度，並已採取技術措施防止此類濫用。然而，此案凸顯了AI工具被惡意使用的風險，以及公司需要加強監管的必要性。專家指出，此案可能推動AI公司制定更嚴格的使用政策，並加強內容審核機制。同時，它也引發了關於AI生成內容法律責任歸屬的討論，特別是當用户濫用工具時，平台應承擔何種責任。
Terry Harwood此前已因相關指控被捕，目前案件仍在審理中。xAI的訴訟旨在尋求禁止Harwood繼續使用Grok，並要求賠償損失。此案的進展將受到科技界和法律界的密切關注，可能為未來AI相關法律糾紛樹立先例。