NeurIPS Mech Interp 研討會發現更多AI垃圾投稿
運行三次機械解釋性研討會後，研究人員獲得了分析LLM垃圾投稿增長的數據集。@andyarditi 調查了AI垃圾的准入情況以及自2024年以來的變化。
NeurIPS 機械解釋性研討會（Mech Interp Workshop）的組織者意外發現，運行三次研討會後，他們積累了大量數據，可用於分析大型語言模型（LLM）垃圾投稿的增長趨勢。研究員 @andyarditi 對這些數據進行了深入分析，探討了有多少AI生成的垃圾內容被允許進入研討會，以及自2024年以來情況發生了怎樣的變化。研究結果顯示，儘管存在大量低質量投稿，但審查過程仍然具有一定的鑑別能力，並非完全不可靠。這一發現為理解AI在學術投稿中的影響提供了新的視角。