AI骗子制造假黑人推销Shein垃圾货

近期，TikTok上涌现出一系列令人不安的AI生成视频，这些视频展示了一些看似真实的黑人女性形象，她们声称自己是手工制作皮带扣等产品的小企业主，并因销售困难而哭泣求助。然而，经过调查发现，这些人物并非真实存在，而是由人工智能生成的虚拟角色，其推销的产品也并非手工制作，而是来自快时尚平台Shein等渠道的批量生产商品。

一个名为“Aliyah”的AI形象在视频中声称自己是一名黑人女性手工皮具匠人，但她的声音机器人般冰冷，与哭泣的表情极不协调。更可疑的是，她的视频中出现了多个制作场景的漏洞，比如在不该缝线的地方缝线，以及眼泪擦拭后痕迹消失等。此外，类似账号如“Aliyahsbuckles”和“Amaya”等，使用相同背景和道具，销售同样的产品，只是角色名称和细节略有不同。

《The Verge》的调查发现，这类账号在TikTok上大量存在，部分甚至标注为AI生成。它们不仅销售皮带扣，还包括牛仔靴形杯子、钩编包和开衫等常见商品。这些账号的几乎所有内容，从人物到自动回复评论，都疑似由AI生成。部分评论试图模仿非裔美国人的口语风格，进一步强化了虚假身份。

研究AI生成内容的专家杰里米·卡拉斯科（Jeremy Carrasco）表示，这类骗局规模巨大，他的团队每天发现多达100个利用AI生成形象销售商品的账号。这些账号通常在近一两个月内创建，视频内容高度相似，均以少数族裔或弱势群体的小企业主身份出现，通过“共情诱饵”手法获取流量。卡拉斯科指出，AI生成的角色往往针对特定人群设计，例如黑人用户更容易看到黑人AI角色，从而引发种族或阶级认同感。

然而，这些视频背后隐藏着更深层的伦理问题。宾夕法尼亚大学传播学研究员希娜·戴维斯（Cienna Davis）将这一现象称为“数字黑脸”，即非黑人个体利用技术模仿黑人文化表达以谋取利益。她指出，这种做法源于黑脸滑稽表演的传统，与奴隶制留下的种族剥削遗产密切相关。菲斯克大学哲学助理教授坦佩斯特·M·亨宁（Tempest M. Henning）进一步强调，这些AI形象只是对黑人群体的刻板化再现，其名称如Aliyah或Amaya看似“黑人化”，但缺乏真实的黑人文化内涵，反而导致种族身份的扁平化。

尽管许多用户未能识别这些骗局，但也有一些人因感到上当而公开谈论。例如，真人秀明星吉赛尔·布莱恩特（Gizelle Bryant）承认曾购买一款钩编包，因为她被一个AI生成的黑人男孩视频所感动，该视频声称男孩因手工钩织而遭受欺凌。布莱恩特表示，包括维奥拉·戴维斯在内的多位名人也曾出现在评论中表达支持。

卡拉斯科估计，目前的AI视频模型“足够逼真，能欺骗大多数人”。由于短视频平台鼓励用户快速消费内容，许多人缺乏暂停和验证信息的习惯。更重要的是，平台算法往往加剧了这种现象，根据用户偏好推荐类似内容。尽管AI生成视频存在诸多破绽，如时长通常不超过15秒、人物表情与声音不匹配等，但普通用户仍难以辨别。

随着AI技术不断进步，生成更加逼真和长时间的视频只是时间问题。卡拉斯科警告说，缺乏媒体素养的用户将在这种骗局面前更加脆弱。专家呼吁平台加强审核机制，同时提醒用户在消费内容时保持警惕，不要仅凭情感冲动就提供支持。