佛蒙特州一家药店用AI提高效率，却导致延误、错误和隐私担忧

今年夏天，佛蒙特州的连锁药店Kinney Drugs引入了一款名为“伯特”的人工智能助手，用于处理处方续药服务，声称能提高效率并改善沟通。然而，这一举措在顾客中引发了广泛的不满和困扰。

据VTDigger报道，位于埃塞克斯章克申的Kinney Drugs在7月21日安装了该系统，但顾客很快发现，AI助手频繁出现错误，包括错误列出药物、请求错误的续药数量，甚至无法识别长期客户的账户。许多顾客表示，他们每天接到AI电话，却听不清药物的名称，只能盲目批准续药，结果导致家中囤积了不必要的药物。

“他每天都打电话来，但从不清楚地说出药名，”顾客凯西·卡拉汉抱怨道。她误以为自己的处方确实需要续药，结果发现家里多了四瓶她每周只需服用两次的药物。

原本Kinney Drugs希望通过AI减少重复性工作，让药剂师有更多时间专注于服务。但实际效果适得其反：顾客因AI问题频繁联系药剂师，反而增加了员工负担。在佛蒙特州，药剂师本就因人手短缺而超负荷工作，AI的引入进一步加剧了压力。

顾客的另一个主要担忧是隐私问题。AI助手由第三方公司Synerio提供，该公司的隐私政策允许使用患者的健康信息来改善运营。顾客玛丽亚·阿韦尼表示，她不得不亲自去药店续药，以避免与AI交互，但这对偏远地区的顾客来说并不现实。

法律专家指出，AI技术的发展速度已超过现有监管框架。佛蒙特州新通过的数据隐私法案S.71要到两年后才生效，且被认为存在太多豁免条款，难以有效保护消费者。佛蒙特大学计算机科学教授约瑟夫·尼尔认为，依靠消费者同意的模式存在根本缺陷，因为顾客往往无法理解他们同意了什么。

尽管Kinney Drugs表示已注意到顾客的“挫败感”，并正在逐一解决问题，但许多顾客已决定离开。一些人认为，AI系统的引入不仅未能带来便利，反而损害了顾客与药店之间长期建立的信任。

AI系统的开发者Synerio公司位于德克萨斯州，其隐私政策允许使用受保护的健康信息来优化运营。Kinney Drugs的隐私政策也披露了类似条款，令许多顾客感到震惊。前顾客Tuan Green在阅读隐私政策后立即将处方转到了UVM医院。

农村地区的顾客选择更少，有些人不得不继续使用他们不信任的系统。Maria Aveni表示，她不想离开她可以步行到达的药店，但如果问题得不到解决，她将不得不离开。

此次事件也凸显了监管滞后的问题。ACLU高级律师Cody Venzke指出，法律制定速度落后于AI技术发展，导致消费者保护薄弱。Vermont大学的Joseph Near教授认为，基于同意的监管模式本身存在缺陷，因为消费者往往无法理解他们同意了什么。

总之，Kinney Drugs的AI助手“伯特”原本旨在提高效率，却造成了延误、错误和隐私担忧，成为AI在医疗领域应用的一个警示案例。