AI 硬體的興起,正在把“錄製”這個看似明確的概念攪成一團迷霧。在大多數電子產品的歷史中,人們可以合理地假設:帶麥克風或攝像頭的裝置要麼在錄你,要麼沒有;要麼開著,要麼關著,幾乎沒有灰色地帶。麥克風拾取聲音,攝像頭捕捉影像,這些資料被儲存到裝置上,有時還會(最好是以端到端加密的方式)送到雲端處理。那是一段被儲存下來的時間切片,因此它就是一段錄製內容。
但也許不再是這樣了。
據彭博社的 Mark Gurman 上週報道,蘋果正在開發一款不儲存影片錄影的智慧家居攝像頭。它用 AI 處理視覺資料,生成描述家中情況的文字片段;據說還支援人臉識別,卻不保留任何影片畫面。蘋果給出的理由是:這樣做仍能保護一部分隱私。Gurman 表示,這項技術與傳聞中未來 AirPods 上的攝像頭工作方式類似。
這與 Apple Watch Series 12 和 Apple Watch Ultra 4 上的 Apple Audio Intelligence 一脈相承。Apple Watch 早就有麥克風,主要用於 Siri 和抬腕接電話。在四項 Audio Intelligence 功能中,引發最多討論的是 Live Rewind 和 Siri Recap:前者生成過去 15 秒的文字記錄,後者能對你一天中的對話生成高層次摘要。這些功能都是選擇性開啟的。蘋果在 Music Detection 的說明中寫道它“不錄製音訊”,但一首歌被識別出來,難道不也是一條“你聽過這首歌”的記錄嗎?
換句話說,Ray-Ban Meta 眼鏡會拍照、錄影片,並把內容存在手機上;而傳聞中的蘋果方案則意味著:攝像頭能看見你、麥克風能聽見你,但兩者都不“儲存”任何東西。
這算不算錄製?蘋果不評論傳聞,但從它公開表述的 Audio Intelligence 隱私理念看,很難認為公司把自己算作在錄製。蘋果表示這些功能不儲存任何音訊,原始資料在 S11 處理器內獨立的安全隔離區處理完畢後即被刪除,傳送到雲端的資訊經由私有云計算,蘋果和第三方都無法訪問。
這樣做的並不只有蘋果。Google 可穿戴裝置高階總監 Sandeep Waraich 對 The Verge 表示,谷歌也在考慮這一概念:如果智慧眼鏡上的攝像頭不記錄資料會怎樣?例如眼鏡用 AI 處理環境中的視覺資料,但不為日後留存任何畫面。如此一來,Waraich 認為,攝像頭可以“只”是一顆影像感測器。
按這些定義,只有被儲存且可回看的東西才算在“錄製”你。可是智慧家居攝像頭或智慧手錶生成的文字記錄,難道不也是被儲存、可回看的嗎?還是說,為了讓 AI 硬體更容易被接受,科技公司其實是在賭哪些東西能在法庭上被調取?
爭論語義看似無聊,但這裡被檢驗的其實有好幾個概念。
拋開個人隱私立場,人們普遍認同:你可以對自己的資料為所欲為。在裝置還不能“一直監聽”之前,它們更自然地融入公共與私人空間。而這一批新裝置,卻要求你成為他人隱私更主動的守護者。人並不生活在密封的氣泡裡:我們生活、工作、社交於各種環境——有些私密,有些公共,還有很多處在灰色地帶。餐廳、劇院、辦公室、體育場館的規矩各不相同,與公共洗手間更是天差地別,儘管它們至少都算半公共空間。即便你在腦中“記錄”下所見一切,人類記憶也無法被客觀共享——它被偏見染色、被視角扭曲;而錄製內容主觀性更低,可以說更接近事實。
還有一個問題:在缺乏普遍共識規範的情況下,如何表明意圖。以 Meta 智慧眼鏡為例,它用白色脈動的“隱私燈”提示正在錄影片。而通用的錄製指示燈顏色是紅色,對不太懂技術的人來說,白光意味著什麼可能完全不清楚(畢竟這些仍是小眾產品)。而且白色隱私燈很容易被劉海或明亮日光遮擋。這還是一種新規範:其他智慧眼鏡或 AI 硬體公司並沒有義務像 Meta 那樣發出提示。一枚錄製音訊或影片的 AI 戒指、吊墜,可能根本沒有指示燈。
更令人困惑的是,能錄製的產品越來越像不能錄製的產品。如果科技公司開始給智慧眼鏡加上不錄影片畫面的攝像頭,這種混亂只會加劇:你怎麼把它們與真正會錄影的眼鏡區分開?如果 Oura Ring(沒有麥克風)看起來像 Vocci Ring(有麥克風),兩者又都像普通戒指,普通人該怎麼辦?
眼下,硬體似乎是監控技術爭論的主戰場,人們覺得去掉攝像頭就能解決問題。其實不能,雖然這會讓這類技術更難被惡意使用。但真正讓人不適的,或許不是攝像頭或麥克風本身,而是知道:關於你的某個片段可能被儲存在別人的裝置裡,而你不知道它會被怎麼用。
這正是圍繞 AI 硬體的所有張力匯聚之處。要讓 AI 真正做到科技巨頭所設想的“好”與個性化,它必須對你和你生活中的人瞭解很多:必須“看見”你所見、“聽見”你所聽,並從你的日常行為中學習。為此,它必須“記住”這些東西。所以在某種意義上,它必須記錄你的生活以及其中發生的一切。大科技公司收集這些資料的動機顯而易見:個人資料就是金錢,金錢就是權力,權力就是影響力。不清楚的是,社會能從這筆交易中得到什麼——關於“有用”和“便利”的模糊承諾嗎?
無論如何,科技公司顯然已經決定一路向前,把 AI 塞進每一臺現有裝置,同時發明新的產品形態。目前這在手機和可穿戴裝置上最明顯,但這些考量很快會延伸到智慧家居、電視、筆記本、平板和耳機,而且很可能以消費者尚未想到的方式。
我們允許這些 AI 裝置記住什麼,將改寫我們所知的文化。這就是為什麼我們必須就“什麼構成錄製”達成社會共識——以及誰(如果有人)有權改變這個定義。