AI‘內容創作者’越來越難以辨認
本文探討了AI虛擬網紅從早期明顯數字產物到現在難以與真人區分的演變。隨着技術的進步，這些虛假人物充斥社交平台，推銷商品、傳播虛假信息，甚至涉及詐騙。平台對此態度模糊，既推廣AI工具又不願嚴格監管。作者預測，隨着公眾憤怒和法律壓力增加，未來或將迎來整頓。
最初，AI網紅很容易識別——比如像素娃娃Lil Miquela、粉紅波波頭Imma和完美膚色Shudu Gram，它們明顯是數字產物。但如今，情況已大不相同。像Emily Pellegrini和Aitana Lopez這樣的角色更接近現實，她們看起來就像那些永遠在高級餐廳和科切拉音樂節打卡的有錢朋友。Lopez由西班牙創意機構The Clueless打造，而Pellegrini的創作者以前運營OnlyFans，現在則出售製作AI網紅的課程。
技術的大幅改進讓這些虛假人物難以被察覺。靜態圖像足以以假亂真，視頻和音頻也快速跟上，能模擬真實人聲和動作。工具不再小眾或昂貴：Google、OpenAI的主流產品，以及Higgsfield、HeyGen、ElevenLabs等專業服務，讓幾乎任何人都能製作AI網紅，無需工作室或大量資金。
社交平台面臨挑戰，卻不願直接解決。雖然有標註AI內容的規定，但這些規則多是將AI內容硬塞進現有類別（如詐騙、垃圾信息、冒充），而AI人很難歸類——它們不一定是詐騙或冒充，若披露AI生成，似乎也不違規。平台既歡迎AI創作工具，又想阻止“垃圾洪流”，於是保持模稜兩可的態度。
如今，AI網紅生態系統繁榮。市場研究估計，虛擬網紅市場今年約120億美元，2030年可能超過600億美元。文化影響力也在增長：有AI網紅獎項、選美比賽、專屬人才機構，以及售賣如何製作AI網紅的課程——這帶有“淘金熱”的味道，少數成功案例，更多人售賣“鏟子”。
作者預測，清算即將到來。AI垃圾已令人厭煩，平台若不阻止，網絡將被虛假人物壓垮，真人用户流失。公眾憤怒和監管壓力正在積聚，例如歐洲的AI法案要求透明披露AI生成內容，可能促使平台加強標記，否則面臨重罰。但焦點仍在內容，而非賬號背後的真實身份。
最終，用户被迫自行辨別。許多平台將審核任務下放給用户，但自我審查並非可持續之策。如果平台不劃清界限，用户可能會自行撤離，尋找AI無污染的空間。