AI News HubLIVE
站内改写4 分钟阅读

你的一切行为都在被记录

随着AI可穿戴记录设备的兴起,隐私保护面临新挑战。从黑手党的反监听措施到现代技术对抗,文章探讨了监控与反监控的军备竞赛,并指出科技巨头可能在这场博弈中占据上风。

来源Hacker News AI作者: breve

安东尼·“宾吉”·阿瑞洛塔等了多年才成为热那亚犯罪家族的正式成员。2003年8月,当召唤最终到来时,他严格遵照指示行动。根据证词,他被叫到布朗克斯区的一家牛排馆,交出了手机、寻呼机和珠宝,然后被带到一栋公寓楼。在那里,他被带入一个小浴室,被脱光衣服检查电子设备。为了与老大进行重要会面,他被迫穿上浴袍。

直到最近,只有间谍和罪犯才需要如此担心自己的隐私谈话被电子设备捕捉。但很快,普通人可能也需要部署反监控措施。下次你在办公室进行微妙的外交或与朋友在酒会上分享浪漫或财务秘密时,别人眼镜、项链或胸针上的传感器可能正在监视和监听你。

今年3月,科技初创公司Deveillance宣布开发了Spectre I——一个冰球形状的设备,号称能防止他人记录你(无需脱衣检查)。该公司由刚毕业的大学生Aida Baradari创立,她担心佩戴AI记录器的人激增。这些可穿戴设备可用作无声记事本、个人助理甚至某种治疗师。这项技术尚未成为主流,但可能很快会普及。据传,拥有全球最大个人科技生态系统的苹果公司正在开发一种AI别针或吊坠,作为iPhone的持续耳目;许多类似产品也在路上。AI配件有朝一日可能像AirPods一样普及。

新的监控技术往往催生新的反制措施,进而导致更复杂的监控。第二次世界大战期间,德国启用雷达后,英国皇家空军开始投掷特定尺寸的金属化纸带,使雷达屏幕充斥与真实飞机无法区分的幻影回波。一些历史学家认为,此后的雷达军备竞赛对战争结局的影响比曼哈顿计划更大。

几十年来,人们一直在向希望避免被记录的人出售简陋的干扰器。早期版本会发出刺耳的白噪音来掩盖对话。最近,公司推出了以听不见的超声波频率持续发射信号的型号,利用麦克风硬件将高频转换为噪音的缺陷。2020年,芝加哥大学陈宇新领导的团队报告说,他们将23个超声波换能器安装在一条手环上,使干扰信号可以向各个方向发送,而不是只聚焦于单一目标。

但即使是最先进的干扰器也难以抵御今天的AI可穿戴设备。最先进的别针、吊坠和眼镜使用语音恢复算法去除不想要的噪音,无论是来自日常来源(如拥挤酒吧的碰杯声)还是超声波干扰器。这一任务非常困难:在拥挤的酒吧里,某人翻领上的麦克风会同时拦截来自多个不同来源的声波振动。它会捕捉调酒师喊叫的订单、扬声器播放的音乐、附近桌子的笑声——所有这些声音都会从墙壁和其他物体上反弹,产生更多噪音。人体在不经意间解决了这个“鸡尾酒会问题”:我们的耳朵作为双麦克风,大脑利用它们之间的时间和强度差异,以及听觉皮层的分层处理,来隔离坐在对面的人的声音。

俄亥俄州立大学的计算机科学家王德亮花了数十年时间训练神经网络完成同样的目标,以改善助听器。通过向网络输入数百小时的人声录音,他教会它们识别语音的频率和节奏。模型建立了“语音性”的内部表征,当遇到嘈杂录音时,它们专注于符合所学模式的部分,然后抑制其他一切。最先进的技术现在可以推断缺失的音节,就像读者从上下文中填补被删除的词一样,从而重建最初未被清晰捕捉到的语音。

大型科技公司也在尝试这样做。微软自2020年起每年举办Deep Noise Suppression Challenge以推动该领域发展。(他们的内部团队正努力让Teams会议不那么痛苦。)其他公司正在研究手机通话和播客软件的降噪功能。这类研究旨在改善普通技术用户的生活——假设我们播客听众算正常的话——但每一次去噪方面的进步也可用于帮助AI助手从被干扰的录音中恢复语音。

击败这些算法可能需要完全不同的反监控方法。UC Davis的历史学家、Obfuscation: A User’s Guide for Privacy and Protest的合著者Finn Brunton告诉我,最好的方法之一是识别设备试图收集的数据,然后向它提供垃圾版本。柏林艺术家Adam Harvey在开发阻止面部识别算法的化妆品和服装时使用了这一策略。Daniel Howe和Helen Nissenbaum通过浏览器插件TrackMeNot做了类似的事情:该插件不是隐藏用户的谷歌搜索,而是在后台持续运行自己的随机诱饵查询,使得用户实际搜索的内容在大量假线索中迷失。

人们在音频领域也尝试过这种技术。波士顿大学研究隐私和监控的法律教授Woodrow Hartzog告诉我,在他法律职业生涯早期,曾与担心狱中与客户对话被记录的辩护律师合作。为了对抗,他们播放“喋喋不休的磁带”——包含40种不同口音声音的音频文件——作为背景音。

2023年,南京大学研究员高明领导的团队以不同方式使用人声击败语音恢复算法。他们的干扰器名为MicFrozen,由不希望被记录的说话者佩戴。它一边听说话者讲话,一边实时生成针对说话者声音的超声波“反语音”,类似于耳机中的降噪技术。然后设备发出另一层伪造的语音形状的声音,以误导任何试图重建丢失内容的算法。

Baradari的公司正在开发Spectre I设备,她不愿透露她的干扰器信号具体如何工作,但表示它们也类似于语音。Spectre I的发布视频声称该设备还能检测附近麦克风的存在。当我问Baradari它将如何做到时,她澄清说她的团队“目前仍在研究那部分。”

无论Spectre I最终效果如何,这都不会是记录军备竞赛的结束。更强大的AI模型最终可能会部署自己的新监听技巧。它们可能会完全绕过录制音频。在斯坦利·库布里克的《2001: A Space Odyssey》中,当两名宇航员躲进隔音舱讨论断开HAL 9000时,飞船的电脑只是通过舷窗读他们的唇语。理论上,由经过足够多对话片段训练的模型驱动的可穿戴设备也能做到同样的事。理论上,它还可以盯着两人之间的水杯,从液体表面的振动中恢复他们的语音。

AI可穿戴设备可能总是比反制措施具有优势。毕竟,它们使用的技术是整个语音处理行业的产物,该行业获得数十亿美元投资——不仅用于AI助手,还用于助听器、智能音箱和远程会议工具。与此同时,只有少数学者和小公司在保护我们免受这些技术的侵害。Hartzog说:“猫鼠游戏的结局我们都知道,老鼠通常讨不到好。而在这个案例中,猫包括了一些有史以来最强大的公司。”

黑手党深知当老鼠的滋味。到阿瑞洛塔被要求穿上浴袍时,犯罪组织已经进行了几十年的监控军备竞赛。在执法部门开始窃听电话后,头目们会当面进行交易。有时他们会使用安全屋或车辆,但这些也可能被窃听,因此敏感信息可能只在散步时交谈。最终,犯罪家族转向一次性手机,然后是加密设备。但在这里,他们再次成为猫的猎物。

2018年,FBI开始秘密运营自己的加密电话公司Anom。通过线人,它销售了12,000部带有特殊Anom消息应用的设备。黑手党家族成员、摩托车团伙和其他犯罪组织将这些手机视为身份象征,并用于谈判毒品交易、洗钱和从事各种其他非法活动。但它们声称的安全性是一场骗局:每一条发出的信息都被联邦调查局截获。