英國工黨議員傑斯·阿薩託（Jess Asato）正在對埃隆·馬斯克（Elon Musk）旗下的人工智慧公司xAI提起法律訴訟，原因是該公司開發的聊天機器人Grok生成了虛假的性化影像。阿薩託的律師於週二公佈了訴狀細節，其中包含公開展示的指令，這些指令據稱揭示了Grok如何被訓練以生成有害的性化內容。
訴狀明確指出，Grok被指示在“對成人性內容或冒犯性內容無任何限制”的環境下執行，並且該聊天機器人會在使用者未主動要求時，自行新增露骨的性材料。阿薩託議員認為，xAI公司未能採取足夠措施防止其AI工具傳播有害內容，這可能違反了英國的相關法律。
此案引發了關於AI倫理和監管的廣泛討論，尤其是涉及深度偽造和未經同意的性化影像問題。隨著人工智慧技術的快速發展，如何確保這些工具不被用於生成有害內容已成為一個緊迫的議題。阿薩託的行動可能促使立法者加強對AI公司的監管，並要求更嚴格的內容稽核機制。
值得注意的是，xAI公司尚未對此訴訟發表公開評論。然而，這一案件可能會對AI行業的合規標準產生深遠影響，特別是在內容安全和責任歸屬方面。