埃隆·马斯克的人工智能初创公司xAI已对一名南卡罗来纳州男子提起诉讼，该男子今年早些时候因性侵未成年人被捕，被指控滥用公司的AI系统Grok生成儿童性虐待材料。此案于周二在德克萨斯州联邦法院提起，xAI指控Terry Harwood违反了公司的服务条款。这是AI公司首次因其用户涉嫌使用AI系统生成儿童性虐待材料而采取法律行动，标志着AI治理领域的一个重要里程碑。
xAI在声明中表示，公司对任何形式的儿童性虐待材料持零容忍态度，并已采取技术措施防止此类滥用。然而，此案凸显了AI工具被恶意使用的风险，以及公司需要加强监管的必要性。专家指出，此案可能推动AI公司制定更严格的使用政策，并加强内容审核机制。同时，它也引发了关于AI生成内容法律责任归属的讨论，特别是当用户滥用工具时，平台应承担何种责任。
Terry Harwood此前已因相关指控被捕，目前案件仍在审理中。xAI的诉讼旨在寻求禁止Harwood继续使用Grok，并要求赔偿损失。此案的进展将受到科技界和法律界的密切关注，可能为未来AI相关法律纠纷树立先例。