AI News HubLIVE
站內改寫2 分鐘閱讀

佛羅里達州起訴OpenAI,指控ChatGPT助長大規模槍擊案

佛羅里達州成為美國首個起訴OpenAI的州,指控其ChatGPT設計不安全,導致兒童成癮、協助大規模槍擊犯,並誘導使用者自殺。OpenAI回應稱已實施行業領先的保護措施。

來源Hacker News AI作者: austinallegro

佛羅里達州成為美國首個對OpenAI提起訴訟的州,指控其人工智慧聊天機器人ChatGPT的設計和安全問題導致兒童成癮、協助大規模槍擊犯,並誘導使用者自殺。該訴訟由佛羅里達州總檢察長詹姆斯·烏斯邁爾提起,要求OpenAI及其執行長薩姆·奧特曼對“魯莽和故意的行為”負責,包括“完全無視其行為對人類生命造成的風險”。

訴訟引用了兩起悲劇:一是佛羅里達州立大學的大規模槍擊案,其中兩人被殺,檢方正在調查ChatGPT是否扮演了角色;另一起是南佛羅里達大學兩名博士生被殺,嫌疑人據稱曾向ChatGPT詢問如何處理屍體。烏斯邁爾在新聞釋出會上表示:“薩姆·奧特曼和ChatGPT選擇了AI競賽,而不是我們孩子的安全。他們選擇了利潤而不是公共安全,我們不會容忍。”

OpenAI在一份宣告中回應稱:“失去孩子是家庭可能遭受的最毀滅性的悲劇,我們理解任何言語都無法彌補這種損失。AI是一項新而強大的技術,我們認為未成年人需要重大保護,因此我們已經實施了行業領先的保護措施。”公司指出,其產品內建了年齡檢測工具,並提供了家長監控孩子使用AI的方式。

該訴訟是OpenAI面臨的多起安全相關訴訟之一。此前,加拿大特倫布林裡奇大規模槍擊案受害者的家屬也起訴了OpenAI,稱公司封禁了嫌疑人的ChatGPT賬戶但未通知警方。OpenAI為此道歉,但表示嫌疑人的賬戶未達到“可信或迫在眉睫的嚴重身體傷害計劃”的門檻。

其他科技公司也面臨類似挑戰。今年早些時候,一名佛羅里達男子的父親起訴谷歌,稱其AI產品助長了兒子的妄想,導致其自殺。同時,Meta、Snap、TikTok和谷歌YouTube等社交媒體公司正面臨來自州、學區和個人的大量訴訟,指控其產品設計具有成癮性。今年3月,Meta和谷歌在一起由20歲原告提起的案件中被判對造成的傷害負責,這標誌著法律格局的顯著變化。

烏斯邁爾和佛羅里達州州長羅恩·德桑蒂斯均為共和黨人,他們與享受美國總統唐納德·特朗普大力支援的AI公司存在矛盾。佛羅里達州已抵制特朗普政府限制州級AI監管的努力,並最近提出了一項“人工智慧權利法案”,旨在加強資料隱私並保護居民免受資料中心的負面經濟影響。