跳到主要内容
AI News HubLIVE
站内改写3 分钟阅读

我们不能随意改写“录制”的定义

文章摘要

The Verge 的专栏指出,AI 硬件正在把“录制”的边界推向模糊地带:苹果传闻中的智能家居摄像头不保存视频、Apple Watch 的 Audio Intelligence 只生成文字记录、Google 则设想让智能眼镜的摄像头“只是一颗图像传感器”。文章认为,当能录制的产品越来越像不能录制的产品,隐私指示灯、产品形态与法律定义都已落后,社会必须先就“什么才算录制”以及谁有权改写这一定义达成共识。

来源The Verge AI作者: Victoria Song
我们不能随意改写“录制”的定义
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

AI 硬件的兴起,正在把“录制”这个看似明确的概念搅成一团迷雾。在大多数电子产品的历史中,人们可以合理地假设:带麦克风或摄像头的设备要么在录你,要么没有;要么开着,要么关着,几乎没有灰色地带。麦克风拾取声音,摄像头捕捉影像,这些数据被保存到设备上,有时还会(最好是以端到端加密的方式)送到云端处理。那是一段被保存下来的时间切片,因此它就是一段录制内容。

但也许不再是这样了。

据彭博社的 Mark Gurman 上周报道,苹果正在开发一款不保存视频录像的智能家居摄像头。它用 AI 处理视觉数据,生成描述家中情况的文字片段;据说还支持人脸识别,却不保留任何视频画面。苹果给出的理由是:这样做仍能保护一部分隐私。Gurman 表示,这项技术与传闻中未来 AirPods 上的摄像头工作方式类似。

这与 Apple Watch Series 12 和 Apple Watch Ultra 4 上的 Apple Audio Intelligence 一脉相承。Apple Watch 早就有麦克风,主要用于 Siri 和抬腕接电话。在四项 Audio Intelligence 功能中,引发最多讨论的是 Live Rewind 和 Siri Recap:前者生成过去 15 秒的文字记录,后者能对你一天中的对话生成高层次摘要。这些功能都是选择性开启的。苹果在 Music Detection 的说明中写道它“不录制音频”,但一首歌被识别出来,难道不也是一条“你听过这首歌”的记录吗?

换句话说,Ray-Ban Meta 眼镜会拍照、录视频,并把内容存在手机上;而传闻中的苹果方案则意味着:摄像头能看见你、麦克风能听见你,但两者都不“保存”任何东西。

这算不算录制?苹果不评论传闻,但从它公开表述的 Audio Intelligence 隐私理念看,很难认为公司把自己算作在录制。苹果表示这些功能不保存任何音频,原始数据在 S11 处理器内独立的安全隔离区处理完毕后即被删除,发送到云端的信息经由私有云计算,苹果和第三方都无法访问。

这样做的并不只有苹果。Google 可穿戴设备高级总监 Sandeep Waraich 对 The Verge 表示,谷歌也在考虑这一概念:如果智能眼镜上的摄像头不记录数据会怎样?例如眼镜用 AI 处理环境中的视觉数据,但不为日后留存任何画面。如此一来,Waraich 认为,摄像头可以“只”是一颗图像传感器。

按这些定义,只有被保存且可回看的东西才算在“录制”你。可是智能家居摄像头或智能手表生成的文字记录,难道不也是被保存、可回看的吗?还是说,为了让 AI 硬件更容易被接受,科技公司其实是在赌哪些东西能在法庭上被调取?

争论语义看似无聊,但这里被检验的其实有好几个概念。

抛开个人隐私立场,人们普遍认同:你可以对自己的数据为所欲为。在设备还不能“一直监听”之前,它们更自然地融入公共与私人空间。而这一批新设备,却要求你成为他人隐私更主动的守护者。人并不生活在密封的气泡里:我们生活、工作、社交于各种环境——有些私密,有些公共,还有很多处在灰色地带。餐厅、剧院、办公室、体育场馆的规矩各不相同,与公共洗手间更是天差地别,尽管它们至少都算半公共空间。即便你在脑中“记录”下所见一切,人类记忆也无法被客观共享——它被偏见染色、被视角扭曲;而录制内容主观性更低,可以说更接近事实。

还有一个问题:在缺乏普遍共识规范的情况下,如何表明意图。以 Meta 智能眼镜为例,它用白色脉动的“隐私灯”提示正在录视频。而通用的录制指示灯颜色是红色,对不太懂技术的人来说,白光意味着什么可能完全不清楚(毕竟这些仍是小众产品)。而且白色隐私灯很容易被刘海或明亮日光遮挡。这还是一种新规范:其他智能眼镜或 AI 硬件公司并没有义务像 Meta 那样发出提示。一枚录制音频或视频的 AI 戒指、吊坠,可能根本没有指示灯。

更令人困惑的是,能录制的产品越来越像不能录制的产品。如果科技公司开始给智能眼镜加上不录视频画面的摄像头,这种混乱只会加剧:你怎么把它们与真正会录像的眼镜区分开?如果 Oura Ring(没有麦克风)看起来像 Vocci Ring(有麦克风),两者又都像普通戒指,普通人该怎么办?

眼下,硬件似乎是监控技术争论的主战场,人们觉得去掉摄像头就能解决问题。其实不能,虽然这会让这类技术更难被恶意使用。但真正让人不适的,或许不是摄像头或麦克风本身,而是知道:关于你的某个片段可能被保存在别人的设备里,而你不知道它会被怎么用。

这正是围绕 AI 硬件的所有张力汇聚之处。要让 AI 真正做到科技巨头所设想的“好”与个性化,它必须对你和你生活中的人了解很多:必须“看见”你所见、“听见”你所听,并从你的日常行为中学习。为此,它必须“记住”这些东西。所以在某种意义上,它必须记录你的生活以及其中发生的一切。大科技公司收集这些数据的动机显而易见:个人数据就是金钱,金钱就是权力,权力就是影响力。不清楚的是,社会能从这笔交易中得到什么——关于“有用”和“便利”的模糊承诺吗?

无论如何,科技公司显然已经决定一路向前,把 AI 塞进每一台现有设备,同时发明新的产品形态。目前这在手机和可穿戴设备上最明显,但这些考量很快会延伸到智能家居、电视、笔记本、平板和耳机,而且很可能以消费者尚未想到的方式。

我们允许这些 AI 设备记住什么,将改写我们所知的文化。这就是为什么我们必须就“什么构成录制”达成社会共识——以及谁(如果有人)有权改变这个定义。

展开要点与分析

文章情报

创始人中级

要点

  • 彭博社记者 Mark Gurman 报道称,苹果正在开发不保存视频的智能家居摄像头,改用 AI 生成描述家中情况的文字片段,据称还支持人脸识别。
  • Apple Watch Series 12 与 Ultra 4 的 Audio Intelligence 提供 Live Rewind(过去 15 秒文字记录)和 Siri Recap(全天对话摘要),但苹果在 Music Detection 中称其“不录制音频”。
  • Google 可穿戴高级总监 Sandeep Waraich 表示,公司也在考虑让智能眼镜用 AI 处理视觉数据却不留存画面,这样摄像头“只是”一颗图像传感器。
  • 文章主张:隐私指示灯规范、产品辨识方式与“录制”的法律定义都已落后,需要社会共识来界定录制及其定义权。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。