懷疑法院使用AI，男子在訴訟文書中注入提示詞試圖贏得官司
一名自訴當事人懷疑法院使用人工智能，便在法律文件中注入提示詞（prompt injection）試圖影響判決。法官稱此類攻擊雖未奏效，卻暴露出法院監管AI的新盲區，並警告若不制定規則，提示注入可能被濫用於操縱訴訟。
儘管這起提示注入攻擊目前看來並未奏效，但主審法官斯佩德（Spader）警告説，當法院最初面對人工智能擾亂司法系統時，提示注入“並不在我們所設想的危險之中”。在康涅狄格州，與其他許多法院系統一樣，迄今的監管重點是防範損害法院公信力的AI輸出，例如虛構的引注或偽造的引語，而不是提示注入這類輸入。
斯佩德認為，由於埃利奧特（Elliott）一案表明相關技術及其濫用正在迅速升級，法院很可能也需要圍繞提示注入制定規則。否則，律師們可能會發現自己的委託人在他們不知情的情況下，利用提示注入操縱訴訟文書。
在斯佩德看來，埃利奧特失敗的提示注入攻擊留下了一個“遠遠超出本案”的教訓。埃利奧特似乎是先以自訴當事人身份使用AI構建案件，在沒有法律專家協助起草論點的情況下求助聊天機器人，然後才轉向提示注入。斯佩德承認，如今這種做法在自訴當事人中相當普遍，但也指出，那些缺乏法庭經驗的人似乎正在以損害自身案件的方式使用聊天機器人。
斯佩德解釋説，常見的情況是，自訴當事人反向構建自己的論證——只讓聊天機器人幫他們為自己的立場辯護，卻從不要求聊天機器人查證事實或提出相反論點。他認為，這是“這項技術帶來的真正危險，也是法官現在經常看到的現象”，因為聊天機器人的討好式回答會讓當事人固執己見，即使法院已作出相反的裁定。在埃利奧特案中，激烈捍衞自己主張的結果，就是轉而採用提示注入，試圖迫使法院同意他的觀點。
斯佩德説：“一個只被設計成同意作者觀點的論證，最終即使對作者本人也是不誠實的。使用這些工具的人，應當像測試一個立場是否成立一樣，同樣樂於推動它。”