AI騙子製造假黑人推銷Shein垃圾貨

近期，TikTok上湧現出一系列令人不安的AI生成視頻，這些視頻展示了一些看似真實的黑人女性形象，她們聲稱自己是手工製作皮帶扣等產品的小企業主，並因銷售困難而哭泣求助。然而，經過調查發現，這些人物並非真實存在，而是由人工智能生成的虛擬角色，其推銷的產品也並非手工製作，而是來自快時尚平台Shein等渠道的批量生產商品。

一個名為“Aliyah”的AI形象在視頻中聲稱自己是一名黑人女性手工皮具匠人，但她的聲音機器人般冰冷，與哭泣的表情極不協調。更可疑的是，她的視頻中出現了多個製作場景的漏洞，比如在不該縫線的地方縫線，以及眼淚擦拭後痕跡消失等。此外，類似賬號如“Aliyahsbuckles”和“Amaya”等，使用相同背景和道具，銷售同樣的產品，只是角色名稱和細節略有不同。

《The Verge》的調查發現，這類賬號在TikTok上大量存在，部分甚至標註為AI生成。它們不僅銷售皮帶扣，還包括牛仔靴形杯子、鈎編包和開衫等常見商品。這些賬號的幾乎所有內容，從人物到自動回覆評論，都疑似由AI生成。部分評論試圖模仿非裔美國人的口語風格，進一步強化了虛假身份。

研究AI生成內容的專家傑里米·卡拉斯科（Jeremy Carrasco）表示，這類騙局規模巨大，他的團隊每天發現多達100個利用AI生成形象銷售商品的賬號。這些賬號通常在近一兩個月內創建，視頻內容高度相似，均以少數族裔或弱勢羣體的小企業主身份出現，通過“共情誘餌”手法獲取流量。卡拉斯科指出，AI生成的角色往往針對特定人羣設計，例如黑人用户更容易看到黑人AI角色，從而引發種族或階級認同感。

然而，這些視頻背後隱藏着更深層的倫理問題。賓夕法尼亞大學傳播學研究員希娜·戴維斯（Cienna Davis）將這一現象稱為“數字黑臉”，即非黑人個體利用技術模仿黑人文化表達以謀取利益。她指出，這種做法源於黑臉滑稽表演的傳統，與奴隸制留下的種族剝削遺產密切相關。菲斯克大學哲學助理教授坦佩斯特·M·亨寧（Tempest M. Henning）進一步強調，這些AI形象只是對黑人羣體的刻板化再現，其名稱如Aliyah或Amaya看似“黑人化”，但缺乏真實的黑人文化內涵，反而導致種族身份的扁平化。

儘管許多用户未能識別這些騙局，但也有一些人因感到上當而公開談論。例如，真人秀明星吉賽爾·布萊恩特（Gizelle Bryant）承認曾購買一款鈎編包，因為她被一個AI生成的黑人男孩視頻所感動，該視頻聲稱男孩因手工鈎織而遭受欺凌。布萊恩特表示，包括維奧拉·戴維斯在內的多位名人也曾出現在評論中表達支持。

卡拉斯科估計，目前的AI視頻模型“足夠逼真，能欺騙大多數人”。由於短視頻平台鼓勵用户快速消費內容，許多人缺乏暫停和驗證信息的習慣。更重要的是，平台算法往往加劇了這種現象，根據用户偏好推薦類似內容。儘管AI生成視頻存在諸多破綻，如時長通常不超過15秒、人物表情與聲音不匹配等，但普通用户仍難以辨別。

隨着AI技術不斷進步，生成更加逼真和長時間的視頻只是時間問題。卡拉斯科警告説，缺乏媒體素養的用户將在這種騙局面前更加脆弱。專家呼籲平台加強審核機制，同時提醒用户在消費內容時保持警惕，不要僅憑情感衝動就提供支持。