人工智能与责任认定

本月早些时候，德国一家法院裁定谷歌对其AI搜索摘要负有法律责任。法院驳回了谷歌的辩护，比如“用户可以自行核查”以及用户“普遍知道不应盲目信任AI生成的信息”，认为AI摘要是公司活动的体现，“首先是谷歌商业活动的表达”。

这一裁决是数十年来围绕互联网出版责任斗争的最新一役。历史上，信息分发者分为两类：承运人和出版商。电话公司是承运人，它传输用户说的任何话，即便涉及犯罪讨论，也不承担责任；而报纸是出版商，它决定发表什么内容，若内容诽谤或违法则需负责。

互联网公司长期以来试图两头占好：在有利时声称自己是承运人，有利时又自称出版商。1996年《通信规范法》第230条巩固了这种双重身份，它规定“任何交互式计算机服务的提供者或使用者不得被视为其他信息内容提供者所提供信息的出版商或发言人”。这使得平台对他人的言论免责。

然而，随着社交媒体的算法推荐和AI摘要的出现，界限变得模糊。谷歌的AI概览不同于传统搜索，它不只是引用和转载他人文字，而是像报纸文章或原创论文那样行使编辑裁量权。因此，它更接近出版商而非承运人。

加拿大航空的案例也提供了教训。其AI聊天机器人承诺了一项折扣，但公司事后否认，声称机器人是“独立法律实体”。法院支持消费者，认为航空公司对聊天机器人所说的话负责，就像对其网站内容负责一样。这确立了公司对其AI代理负有注意义务的先例。

Visa与OpenAI最近宣布合作开发个人AI代理，用于代购等场景。这引发责任归属问题：若AI代理未经授权购买，谁负责？若公司不愿承担责任，用户如何信任系统？合理的责任分配是此类应用成功的关键。

如果德国裁决得到维持，可能对谷歌的AI概览功能造成重大影响。今年早些时候的测试显示，该功能约有10%的错误率。按每年5万亿次搜索计算，每秒会产生1.6万条错误摘要。尽管多数错误无害，但部分可能造成伤害或诽谤。例如，谷歌的AI摘要曾错误指控加拿大小提琴手阿什莉·麦基萨克为性犯罪者，她已在安大略省提起诉讼。

责任问题可能使许多AI应用在商业上不可行。若公司需为其AI律师、医生或网红的行为负责，这些应用可能无法盈利。但作者认为，法律没有义务容忍不可信的AI系统。任何不愿为自己代理人（无论人类还是AI）陈述负责的公司，都不值得用户的时间和金钱。