你可能不会读完这篇文章……但这没关系
文章探讨了LLM如何大幅降低了制作看似可信内容的成本，导致开源漏洞报告、学术期刊和博客等领域的低质量内容泛滥。文章借鉴了印刷术时代的历史类比，并呼吁建立新的社会技术把关机制来帮助分配注意力。
随着大型语言模型（LLM）的崛起，生成看似可信的内容成本已趋近于零。以开源软件维护为例，像curl的创始人Daniel Stenberg就报告了大量由LLM生成的漏洞报告，其中大部分是垃圾信息，却消耗了专家宝贵的时间去验证。这种现象不仅限于软件领域，学术期刊的投稿量自ChatGPT问世以来增长了42%，而写作质量却下降了。作者本人也曾用Claude Code生成了一篇看似完整的论文，但领域专家只需几分钟就能发现其本质是“垃圾”。这揭示了当前的一个核心矛盾：我们擅长生成内容，却不擅长判断其质量。
历史提供了借鉴。在古腾堡印刷术出现之前，书籍稀缺，存在本身就是质量的保证。但随着印刷术普及，书籍大量增加，16世纪的学者就开始抱怨“书籍的混乱和有害的丰富”。随后，17世纪诞生了同行评审期刊，如《皇家学会哲学汇刊》，由编辑把关，使得发表本身成为质量的信号。这证明，当内容生产成本下降时，社会往往会发明新的把关机制来帮助分配注意力。
如今，AI再次打破了成本的“大坝”。传统的把关机制，如学术审稿、开源仓库维护，正在被垃圾信息淹没。现有的数字平台依赖PageRank等流行度算法，但这些算法只是测量注意力本身，而非内容价值，导致赢家通吃和固化的不平等。作者认为，我们需要新的“门”——既不能只是简单复刻现有的声誉系统（如哈佛的标签），也不能依赖注意力经济。新机制应当既有效筛选优质内容，又避免制造新的排他性壁垒。
总之，文章呼吁在AI时代重建可信度信号。这不仅是技术问题，更是社会制度设计的问题。我们需要既能应对“可信垃圾”泛滥，又能保持开放和民主的解决方案。