你可能不會讀完這篇文章……但這沒關係
文章探討了LLM如何大幅降低了製作看似可信內容的成本，導致開源漏洞報告、學術期刊和博客等領域的低質量內容氾濫。文章借鑑了印刷術時代的歷史類比，並呼籲建立新的社會技術把關機制來幫助分配注意力。
隨着大型語言模型（LLM）的崛起，生成看似可信的內容成本已趨近於零。以開源軟件維護為例，像curl的創始人Daniel Stenberg就報告了大量由LLM生成的漏洞報告，其中大部分是垃圾信息，卻消耗了專家寶貴的時間去驗證。這種現象不僅限於軟件領域，學術期刊的投稿量自ChatGPT問世以來增長了42%，而寫作質量卻下降了。作者本人也曾用Claude Code生成了一篇看似完整的論文，但領域專家只需幾分鐘就能發現其本質是“垃圾”。這揭示了當前的一個核心矛盾：我們擅長生成內容，卻不擅長判斷其質量。
歷史提供了借鑑。在古騰堡印刷術出現之前，書籍稀缺，存在本身就是質量的保證。但隨着印刷術普及，書籍大量增加，16世紀的學者就開始抱怨“書籍的混亂和有害的豐富”。隨後，17世紀誕生了同行評審期刊，如《皇家學會哲學彙刊》，由編輯把關，使得發表本身成為質量的信號。這證明，當內容生產成本下降時，社會往往會發明新的把關機制來幫助分配注意力。
如今，AI再次打破了成本的“大壩”。傳統的把關機制，如學術審稿、開源倉庫維護，正在被垃圾信息淹沒。現有的數字平台依賴PageRank等流行度算法，但這些算法只是測量注意力本身，而非內容價值，導致贏家通吃和固化的不平等。作者認為，我們需要新的“門”——既不能只是簡單復刻現有的聲譽系統（如哈佛的標籤），也不能依賴注意力經濟。新機制應當既有效篩選優質內容，又避免製造新的排他性壁壘。
總之，文章呼籲在AI時代重建可信度信號。這不僅是技術問題，更是社會制度設計的問題。我們需要既能應對“可信垃圾”氾濫，又能保持開放和民主的解決方案。