NeurIPS Mech Interp 研讨会发现更多AI垃圾投稿
运行三次机械解释性研讨会后，研究人员获得了分析LLM垃圾投稿增长的数据集。@andyarditi 调查了AI垃圾的准入情况以及自2024年以来的变化。
NeurIPS 机械解释性研讨会（Mech Interp Workshop）的组织者意外发现，运行三次研讨会后，他们积累了大量数据，可用于分析大型语言模型（LLM）垃圾投稿的增长趋势。研究员 @andyarditi 对这些数据进行了深入分析，探讨了有多少AI生成的垃圾内容被允许进入研讨会，以及自2024年以来情况发生了怎样的变化。研究结果显示，尽管存在大量低质量投稿，但审查过程仍然具有一定的鉴别能力，并非完全不可靠。这一发现为理解AI在学术投稿中的影响提供了新的视角。