AI‘内容创作者’越来越难以辨认
本文探讨了AI虚拟网红从早期明显数字产物到现在难以与真人区分的演变。随着技术的进步，这些虚假人物充斥社交平台，推销商品、传播虚假信息，甚至涉及诈骗。平台对此态度模糊，既推广AI工具又不愿严格监管。作者预测，随着公众愤怒和法律压力增加，未来或将迎来整顿。
最初，AI网红很容易识别——比如像素娃娃Lil Miquela、粉红波波头Imma和完美肤色Shudu Gram，它们明显是数字产物。但如今，情况已大不相同。像Emily Pellegrini和Aitana Lopez这样的角色更接近现实，她们看起来就像那些永远在高级餐厅和科切拉音乐节打卡的有钱朋友。Lopez由西班牙创意机构The Clueless打造，而Pellegrini的创作者以前运营OnlyFans，现在则出售制作AI网红的课程。
技术的大幅改进让这些虚假人物难以被察觉。静态图像足以以假乱真，视频和音频也快速跟上，能模拟真实人声和动作。工具不再小众或昂贵：Google、OpenAI的主流产品，以及Higgsfield、HeyGen、ElevenLabs等专业服务，让几乎任何人都能制作AI网红，无需工作室或大量资金。
社交平台面临挑战，却不愿直接解决。虽然有标注AI内容的规定，但这些规则多是将AI内容硬塞进现有类别（如诈骗、垃圾信息、冒充），而AI人很难归类——它们不一定是诈骗或冒充，若披露AI生成，似乎也不违规。平台既欢迎AI创作工具，又想阻止“垃圾洪流”，于是保持模棱两可的态度。
如今，AI网红生态系统繁荣。市场研究估计，虚拟网红市场今年约120亿美元，2030年可能超过600亿美元。文化影响力也在增长：有AI网红奖项、选美比赛、专属人才机构，以及售卖如何制作AI网红的课程——这带有“淘金热”的味道，少数成功案例，更多人售卖“铲子”。
作者预测，清算即将到来。AI垃圾已令人厌烦，平台若不阻止，网络将被虚假人物压垮，真人用户流失。公众愤怒和监管压力正在积聚，例如欧洲的AI法案要求透明披露AI生成内容，可能促使平台加强标记，否则面临重罚。但焦点仍在内容，而非账号背后的真实身份。
最终，用户被迫自行辨别。许多平台将审核任务下放给用户，但自我审查并非可持续之策。如果平台不划清界限，用户可能会自行撤离，寻找AI无污染的空间。