AI News HubLIVE
站内改写2 分钟阅读

领英推出“看起来像AI垃圾内容”举报按钮,用户可举报尴尬AI帖

领英宣布推出“Seems like AI slop”举报按钮,让用户标记疑似AI生成的低质量帖子。此举反映平台正试图应对AI生成内容泛滥问题;研究显示领英上81%的长帖可能由AI生成。

来源ZDNet AI

领英已逐渐成为一个集企业网红网站与求职搜索引擎于一体的平台,但比那些“职场螺丝钉”式发帖者更让用户感到烦躁的,是AI生成的低质量内容,也就是俗称的“AI垃圾内容”(AI slop)。这类帖子往往声称最重要的高管级课程不是在会议室里学到的,而是在某个毫不相干的普通场景中顿悟;或者动不动就呼吁大家关注“快节奏的世界”;再配上几个短促的句子、夸张的换行,最后鼓励读者“细品”。而说实话,整篇帖子最终可能只是一碗“大而无当的鸡汤”。

什么是AI垃圾内容?根据韦氏词典的定义,AI垃圾内容是指“通常借助人工智能批量生产的低质量数字内容”。这个说法已经流行到被收入词典,并且美联社也在最新版写作与编辑指南中加入了这一条目。AI垃圾内容可以指那些不动脑筋、批量生成的AI图片、音乐、视频和文字帖子,创作者希望通过这些内容来操纵算法、吸引点击和流量并赚钱。

领英正在如何应对AI垃圾内容?领英首席产品官哈里·斯里尼瓦桑(Hari Srinivasan)在站内发帖说明了公司的治理措施。他表示,领英已加大对自动化防御的投入,尤其是在评论区。同时,平台正在引入新的分类器来识别低质量内容。不过,斯里尼瓦桑也承认,并非所有AI生成的内容都是垃圾,有些人会用AI来梳理和润色自己的原始思考;用户也越来越能分辨哪些AI帖子是真诚的,哪些只是盲目的、缺乏诚意的。虽然领英正在部署自动识别模型,但斯里尼瓦桑强调,真实的用户反馈更有价值,因此鼓励用户使用新的“看起来像AI垃圾内容”按钮来举报可疑帖子。发帖者可以在后台私下看到,有多少受众认为自己的帖子不真实、接近垃圾内容。用户应该会在来自站外陌生人的推荐信息流中看到更少的此类帖子,而疑似垃圾内容的帖子触达范围也会变小。

为什么领英上AI垃圾内容特别多?领英的发布文化有时会奖励表演式的“奋斗文化”和持续的“高管级思想领导力”帖子,由此催生了一些人为了保持存在感和可见度,发布空洞、低投入的内容。根据Hootsuite的分析,领英算法会奖励主题相关性、互动率和主题一致性。因此,如果有人每天发布两三条AI生成的“高管级思想领导力”帖子,下面再挂上几百条AI生成的评论,那么他的曝光和互动可能会超过那些每个月只真诚分享两三次真实想法的人。

领英并不是唯一试图减少AI垃圾内容的平台。Substack已经宣布与AI检测公司Panagram合作,向读者展示一篇Substack帖子中有多大比例可能是AI生成的。Reddit上也有多个社区的帖子和评论表达了对AI味浓厚文字内容的厌烦,这些帖子从读书社区到女子高尔夫子版块随处可见。也许谁也没有预料到,ChatGPT在2023年诞生后会被用来在互联网上大规模“养号刷量”。不过,聊天机器人的“说话”模式如今已经在网络上泛滥。AI垃圾内容短期内可能不会消失,但数字平台正在采取措施限制其扩散和热度。