人工智能監控與社會進步

在不久的將來，人工智能驅動的監控系統將能夠追蹤我們在公共場合的一切行為，以及許多私人行為。一旦我們做錯事——比如偷竊、亂扔垃圾、亂穿馬路——系統就會注意到，記錄下來，關聯到你的官方政府記錄，通知你，並向相關當局甚至公眾發出實時警報。這些系統就像自動測速攝像頭，但功能更強大。它們不僅執行限速，還執行你能想象到的任何規則。你不會在幾周後收到郵寄的罰單；你會立即被通知並罰款。

這些系統結合了強大的AI、通過實時人臉識別和數字追蹤進行的公共和私人監控、大規模數據庫以及高度個性化的執法。如果大規模部署，它們不僅會對個人自由產生深遠的寒蟬效應，還會損害民主和社會進步本身。

中國多年來一直在發展其監控基礎設施。全國有超過6億個監控攝像頭，越來越多地由AI和人臉識別驅動，用於執行法律和社會規則。以老段為例，他因失業無法償還貸款而被系統列入黑名單。當他訪問北京時，城市的AI監控系統在一個主要路口通過人臉識別認出他，並在附近的大型電子廣告牌上顯示他的面孔、姓名和身份證號碼，標明他是失信人員。類似的系統現在正在中國各地部署，並與臭名昭著的在線監控、審查和社會信用系統整合。

AI監控現在正在北美、南美、歐洲、亞洲和非洲進行試驗。根據一份新報告，美國國土安全部正在迅速增加基於AI的監控使用，包括人臉識別和社交媒體賬户監控，以追蹤移民、異見人士、記者、法律觀察員和抗議者。雖然這些系統表面上用於維護安全和公共安全，但真正的目的往往是社會控制。甲骨文CEO拉里·埃裏森表示：“公民會因為被持續記錄和報告而表現最佳。”寒蟬效應正是其目的。

AI監控引發了一系列公共政策挑戰：技術偏見、不可審計的系統以及僵化的自動執法，可能加劇歧視，破壞透明度、問責制和法治。但最緊迫和長期的影響是更廣泛的寒蟬效應。喬恩·彭尼在新書《寒蟬效應：數字時代的壓制、順從與權力》中解釋了監控、技術和權力如何被武器化以大規模影響行為。監控、個性化、不確定性和權威都是增加寒蟬效應規模和影響力的關鍵機制。它們導致人們自我審查言行，變得更加順從和服從，從而更容易被管理控制。而且這些效應是疊加的：使用的機制越多，形式越強大，寒意越深。

計算機化早已允許數據收集者追蹤我們的位置、收集我們與誰通信的列表、監控我們的消費習慣。新的變化是這些機制前所未有的融合，持續且無情。AI帶來了分析能力，可以監視通信內容，回答關於我們行蹤和活動的複雜問題。結果將是一種超級社會層面的寒蟬效應，恐懼、自我審查和羣體思維盛行，異議、創造力和創新變得越來越少。

在這種恐懼和順從的氛圍中，有風險的想法、社會活動和個人改變——尤其是被邊緣化的羣體——也會受到抑制。這將對社會進步產生長期影響。例如，同性關係和娛樂用大麻的合法化過程：這些想法從非法且不道德，逐漸演變為合法且道德。但這需要一種能夠嘗試並向世界展示道德可能隨時間改變的反文化。如果AI監控抑制了這種公共或私人實驗，社會進步就不可能實現。

沒有真正的歷史先例；這些技術太新了。即使是美國曆史上最臭名昭著的大規模國內監控項目——FBI在1950年代和1960年代使用竊聽、拆看郵件、線人和紙質索引卡追蹤共產主義者——在AI增強監控面前也顯得古老。東德冷戰時期的以人為中心的監控網絡也是如此。只有喬治·奧威爾或奧爾德斯·赫胥黎的科幻小説接近。但即使是大兄弟的“電幕”相比之下也顯得過時。

但我們不必坐以待斃。既然我們認識到AI增強大規模監控的危險，我們可以做出政策選擇不去實施。禁止人臉識別和其他身份識別技術可以減緩發展；強有力的新隱私和數據保護可以限制數據追蹤和保留；AI法規可以限制其最具侵入性的用途；結構性改革可以幫助我們審查和打破推動技術過度的強大國家/技術卡特爾。

AI驅動的大規模監控的寒意將窒息健康民主社會的根基。但我們仍然可以選擇另一條道路。

（本文由喬恩·彭尼合著，原載於《衞報》）