AI News HubLIVE
站内改写

AI識別出失職聯邦法官

聯邦法官埃莉諾·羅斯被曝在 chambers 內與高級執法官員發生婚外情,司法部門試圖匿名處理,但 AI 通過公開文件細節迅速識破其身份。此事凸顯法院對 AI 能力的無知,以及法律專業人士需提升技術素養,重新思考保密策略。

文章情報

工程師中級

要點

  • AI 僅用10分鐘便從匿名報告中識別出涉事法官埃莉諾·羅斯
  • 報告中的細節如兩年期書記員任期、地區檢察官稱謂等被 AI 利用
  • 司法部門認為匿名化足夠,但 AI 輕易破解,暴露了保密漏洞
  • 法律界需警惕 AI 的偵查能力,並更新保密措施

為甚麼重要

這條新聞值得關注,因為AI 僅用10分鐘便從匿名報告中識別出涉事法官埃莉諾·羅斯。

技術影響

可能影響模型選型、推理成本、產品能力和評測基準。

一篇報告揭露了一名未具名聯邦法官在 chamber 內與一名“高級執法官員”發生婚外情。此事引發了一個直接問題:為何一名聯邦法官無法負擔酒店房間?隨後是追問:這位匿名法官是誰?儘管指控嚴重——涉及敲詐風險、公開參與黨派活動以及事後對調查人員撒謊——第十一巡迴法院和司法會議都隱瞞了法官身份。他們甚至調整了微小的處罰,允許該法官“模糊地撰寫道歉信,以確保信件不會‘以某種方式被用來對付該主審法官’。”

在文章發佈後的45分鐘內,我們高度確信這名法官是喬治亞州北區法官埃莉諾·羅斯。但我們沒有一手消息來源確認。彭博法律新聞隨後通過直接瞭解調查的消息源確認了這一點。

第十一巡迴法院認為其在匿名化報告中做得非常巧妙。報告沒有包含姓名或地區,僅稱“主審法官”。報告甚至刻意避免指明法官性別,證明即使是保守派法官也能輕易掌握代詞用法。然而,報告未能模糊許多細節,使得推導法官身份成為可能。故事在此轉折,我們將討論 AI 以及聯邦法院尚未做好準備。

讀報告時,我注意到一個腳註透露該地區法官聘用書記員時採用兩年錯開任期。這並非慣例,立即縮小了可能法官範圍。當我試圖在 OSCAR 上搜索時,一位前 Above the Law 專欄作家提醒我:我們生活在2026年,AI 存在。將報告輸入兩個不同的 AI 模型並開啓全部“深度研究”模式,機器人花了幾分鐘將報告與公開信息比較。兩個模型都提供了長篇報告,得出相同結論。那麼模型是如何做到的?

除了兩年書記員事實外,模型立即過濾了整個佛羅里達州。官方報告中多處提及“地區檢察官”辦公室。佛羅里達州的地方檢察官稱為“州檢察官”。此外,機器人注意到處罰禁止該法官在其地區擔任首席法官——這意味着該法官不是資深法官,也不是現任首席法官。報告指出調查人員與2020年以來的書記員交談,排除了之後上任的人。討論法官參加 DA 初選勝利派對時,機器人指出該法官聲稱因在辦公室工作而認識候選人,將範圍縮小到有州檢察官經驗且與現任 DA 同時期任職的法官。AI 模型決定這與亞特蘭大的法尼·威利斯相符。

一旦名單縮小,機器人還搜索了可能法官的案件記錄,以匹配報告中的説法:高級執法官員並未產生衝突,因為該法官的案件表中沒有涉及該警察局的案件。此外,機器人還猜測了該官員的身份。

大約10分鐘的工作,AI 就破解了法官們為保密所付出的一切努力。僅憑几份公開的法院文件和開放網絡。在人們煮一杯咖啡的時間裏,最基礎的工作流程就擊敗了第十一巡迴法院的整個匿名化策略。

2000年,哈佛教授 Latanya Sweeney 曾指出,87%的美國人可以通過郵政編碼、性別和出生日期的組合被唯一識別。關鍵不在於再識別是可能的——統計學家多年前就指出這一點——而在於機構繼續發佈“匿名化”數據,彷彿刪除姓名就能防止識別。蘇黎世聯邦理工學院和 Anthropic 最近的一項研究將其更新到生成式 AI 時代,發現 LLM 可以以約1到4美元每匹配的價格對偽匿名在線用户進行去匿名化,僅通過其寫作就能正確識別67%的 Hacker News 用户,而所有直接標識符已被剝離。過去需要專門人類調查員數小時的工作,模型只需幾分鐘。過去“實際上模糊”的東西現在至多是半透明的。

如果相信報告的説法,法官們真誠地不希望公開涉事法官身份。這意味着許多聯邦法官錯誤地認為他們比 AI 更聰明。雖然大多數關於此事的負面評論將針對涉事法官,但請對主持調查的法官們保持憤怒,他們似乎對 AI 的工作原理毫無概念。任何擁有20美元訂閲和對該技術有基本瞭解的人都可以複製這一結果。

對於律師而言,這應強調掌握這項技術的重要性。無論是試圖維護客户機密,還是希望在盡職調查材料中解開謎團,如果不使用 AI 完成這些任務,就是失職。我們經常嘲笑律師搞砸保密處理。現在,我們需要重新思考整個保密策略,以確保否則無害的線索不會給 AI 提供足夠材料來解碼一切。能力義務已包含關於技術的評論超過十年。過去十年我們一直在爭論這是否意味着律師需要知道“雲”是什麼。現在我們已經遠遠超過那個階段。

2026年的法律 AI 討論一直被幻覺問題主導——Gordon Rees、Sullivan & Cromwell、Butler Snow……又是 Gordon Rees。但這掩蓋了 AI 故事的另一面:能力不僅關乎不濫用 AI,還包括知道如何有效使用它。