你的一切行為都在被記錄
隨著AI可穿戴記錄裝置的興起,隱私保護面臨新挑戰。從黑手黨的反監聽措施到現代技術對抗,文章探討了監控與反監控的軍備競賽,並指出科技巨頭可能在這場博弈中佔據上風。
安東尼·“賓吉”·阿瑞洛塔等了多年才成為熱那亞犯罪家族的正式成員。2003年8月,當召喚最終到來時,他嚴格遵照指示行動。根據證詞,他被叫到布朗克斯區的一家牛排館,交出了手機、尋呼機和珠寶,然後被帶到一棟公寓樓。在那裡,他被帶入一個小浴室,被脫光衣服檢查電子裝置。為了與老大進行重要會面,他被迫穿上浴袍。
直到最近,只有間諜和罪犯才需要如此擔心自己的隱私談話被電子裝置捕捉。但很快,普通人可能也需要部署反監控措施。下次你在辦公室進行微妙的外交或與朋友在酒會上分享浪漫或財務秘密時,別人眼鏡、項鍊或胸針上的感測器可能正在監視和監聽你。
今年3月,科技初創公司Deveillance宣佈開發了Spectre I——一個冰球形狀的裝置,號稱能防止他人記錄你(無需脫衣檢查)。該公司由剛畢業的大學生Aida Baradari創立,她擔心佩戴AI記錄器的人激增。這些可穿戴裝置可用作無聲記事本、個人助理甚至某種治療師。這項技術尚未成為主流,但可能很快會普及。據傳,擁有全球最大個人科技生態系統的蘋果公司正在開發一種AI別針或吊墜,作為iPhone的持續耳目;許多類似產品也在路上。AI配件有朝一日可能像AirPods一樣普及。
新的監控技術往往催生新的反制措施,進而導致更復雜的監控。第二次世界大戰期間,德國啟用雷達後,英國皇家空軍開始投擲特定尺寸的金屬化紙帶,使雷達螢幕充斥與真實飛機無法區分的幻影回波。一些歷史學家認為,此後的雷達軍備競賽對戰爭結局的影響比曼哈頓計劃更大。
幾十年來,人們一直在向希望避免被記錄的人出售簡陋的干擾器。早期版本會發出刺耳的白噪音來掩蓋對話。最近,公司推出了以聽不見的超聲波頻率持續發射訊號的型號,利用麥克風硬體將高頻轉換為噪音的缺陷。2020年,芝加哥大學陳宇新領導的團隊報告說,他們將23個超聲波換能器安裝在一條手環上,使干擾訊號可以向各個方向傳送,而不是隻聚焦於單一目標。
但即使是最先進的干擾器也難以抵禦今天的AI可穿戴裝置。最先進的別針、吊墜和眼鏡使用語音恢復演算法去除不想要的噪音,無論是來自日常來源(如擁擠酒吧的碰杯聲)還是超聲波干擾器。這一任務非常困難:在擁擠的酒吧裡,某人翻領上的麥克風會同時攔截來自多個不同來源的聲波振動。它會捕捉調酒師喊叫的訂單、揚聲器播放的音樂、附近桌子的笑聲——所有這些聲音都會從牆壁和其他物體上反彈,產生更多噪音。人體在不經意間解決了這個“雞尾酒會問題”:我們的耳朵作為雙麥克風,大腦利用它們之間的時間和強度差異,以及聽覺皮層的分層處理,來隔離坐在對面的人的聲音。
俄亥俄州立大學的電腦科學家王德亮花了數十年時間訓練神經網路完成同樣的目標,以改善助聽器。透過向網路輸入數百小時的人聲錄音,他教會它們識別語音的頻率和節奏。模型建立了“語音性”的內部表徵,當遇到嘈雜錄音時,它們專注於符合所學模式的部分,然後抑制其他一切。最先進的技術現在可以推斷缺失的音節,就像讀者從上下文中填補被刪除的詞一樣,從而重建最初未被清晰捕捉到的語音。
大型科技公司也在嘗試這樣做。微軟自2020年起每年舉辦Deep Noise Suppression Challenge以推動該領域發展。(他們的內部團隊正努力讓Teams會議不那麼痛苦。)其他公司正在研究手機通話和播客軟體的降噪功能。這類研究旨在改善普通技術使用者的生活——假設我們播客聽眾算正常的話——但每一次去噪方面的進步也可用於幫助AI助手從被幹擾的錄音中恢復語音。
擊敗這些演算法可能需要完全不同的反監控方法。UC Davis的歷史學家、Obfuscation: A User’s Guide for Privacy and Protest的合著者Finn Brunton告訴我,最好的方法之一是識別裝置試圖收集的資料,然後向它提供垃圾版本。柏林藝術家Adam Harvey在開發阻止面部識別演算法的化妝品和服裝時使用了這一策略。Daniel Howe和Helen Nissenbaum透過瀏覽器外掛TrackMeNot做了類似的事情:該外掛不是隱藏使用者的谷歌搜尋,而是在後臺持續執行自己的隨機誘餌查詢,使得使用者實際搜尋的內容在大量假線索中迷失。
人們在音訊領域也嘗試過這種技術。波士頓大學研究隱私和監控的法律教授Woodrow Hartzog告訴我,在他法律職業生涯早期,曾與擔心獄中與客戶對話被記錄的辯護律師合作。為了對抗,他們播放“喋喋不休的磁帶”——包含40種不同口音聲音的音訊檔案——作為背景音。
2023年,南京大學研究員高明領導的團隊以不同方式使用人聲擊敗語音恢復演算法。他們的干擾器名為MicFrozen,由不希望被記錄的說話者佩戴。它一邊聽說話者講話,一邊即時生成針對說話者聲音的超聲波“反語音”,類似於耳機中的降噪技術。然後裝置發出另一層偽造的語音形狀的聲音,以誤導任何試圖重建丟失內容的演算法。
Baradari的公司正在開發Spectre I裝置,她不願透露她的干擾器訊號具體如何工作,但表示它們也類似於語音。Spectre I的釋出影片聲稱該裝置還能檢測附近麥克風的存在。當我問Baradari它將如何做到時,她澄清說她的團隊“目前仍在研究那部分。”
無論Spectre I最終效果如何,這都不會是記錄軍備競賽的結束。更強大的AI模型最終可能會部署自己的新監聽技巧。它們可能會完全繞過錄制音訊。在斯坦利·庫布里克的《2001: A Space Odyssey》中,當兩名宇航員躲進隔音艙討論斷開HAL 9000時,飛船的電腦只是透過舷窗讀他們的唇語。理論上,由經過足夠多對話片段訓練的模型驅動的可穿戴裝置也能做到同樣的事。理論上,它還可以盯著兩人之間的水杯,從液體表面的振動中恢復他們的語音。
AI可穿戴裝置可能總是比反制措施具有優勢。畢竟,它們使用的技術是整個語音處理行業的產物,該行業獲得數十億美元投資——不僅用於AI助手,還用於助聽器、智慧音箱和遠端會議工具。與此同時,只有少數學者和小公司在保護我們免受這些技術的侵害。Hartzog說:“貓鼠遊戲的結局我們都知道,老鼠通常討不到好。而在這個案例中,貓包括了一些有史以來最強大的公司。”
黑手黨深知當老鼠的滋味。到阿瑞洛塔被要求穿上浴袍時,犯罪組織已經進行了幾十年的監控軍備競賽。在執法部門開始竊聽電話後,頭目們會當面進行交易。有時他們會使用安全屋或車輛,但這些也可能被竊聽,因此敏感資訊可能只在散步時交談。最終,犯罪家族轉向一次性手機,然後是加密裝置。但在這裡,他們再次成為貓的獵物。
2018年,FBI開始秘密運營自己的加密電話公司Anom。透過線人,它銷售了12,000部帶有特殊Anom訊息應用的裝置。黑手黨家族成員、摩托車團伙和其他犯罪組織將這些手機視為身份象徵,並用於談判毒品交易、洗錢和從事各種其他非法活動。但它們聲稱的安全性是一場騙局:每一條發出的資訊都被聯邦調查局截獲。