Substack用户稱新AI檢測工具是'獵巫行動'

Substack平台上的創作者們正在抵制公司推出的AI生成內容檢測功能，許多人稱其為“獵巫行動”。一些使用AI輔助寫作或編輯的Substack用户認為，新政策不公平地歧視他們，而另一些完全不使用AI的用户則擔心Substack會錯誤地標記他們的作品為AI生成，從而損害其聲譽。

“我不會為在創作過程中使用AI而道歉。在沒有AI的情況下我寫了20年，如果我想，我可以再次做到，”擁有小型Substack“Backstage Pass”的Mack Collier寫道。“我的產出會下降，我的文章會缺乏結構，而且會更明顯地需要一位好編輯。使用AI提高了我的寫作質量。這就是我使用它的原因。”

“這些檢測器眾所周知地極其不準確，”自由撰稿人和數字寫作教練Alice Lemee在關於Substack新AI檢測功能的視頻中表示。“只需一次錯誤指控，作家的聲譽就可能幾乎不可逆轉地受損。”

Substack首席執行官Christ Best在週二宣佈了這些AI檢測功能，他表示“越來越難分辨互聯網上什麼是真實的”，並且“當無人創作的內容佔據了本應屬於人類的互聯網部分時，它會污染公共空間，使發現和傾聽人類聲音變得困難。”Best解釋説，Substack與AI檢測工具Pangram合作，該工具現已內置到Substack中，允許任何用户掃描一篇文章。Pangram會給出一個基於百分比的分數，確定寫作中有多少是AI或人類生成的。

正如我們之前報道的，AI檢測器並不完美，Pangram本身也並非免疫於將人類內容標記為AI，或將AI標記為人類。Pangram首席執行官Max Spero最近告訴我們，公司正在不斷努力減少錯誤，並估計其誤報率大約為萬分之一。

“我們現在建立了鏡像。Pangram是一個真正的機器，經過大量文本訓練以進行概率猜測，我們將其指向你的寫作，以確定是否隱藏着一個人，”教授、《慢速AI》作者Sam Illingworth在他Substack上題為“Substack的AI檢測器與獵巫行動的迴歸”的文章中寫道。“為了判斷另一端是否有人類，Substack求助於一台機器。”

Substack還增加了一種方式，讓用户添加“如何製作”聲明，解釋他們的寫作過程並披露是否使用AI。“我們不反對人們使用AI輔助工作，我們認為人們應該自由選擇表達自己的工具，”Best説。“平台上有一些人是人類寫作最大化者，另一些人則公開探索使用AI工具的邊界，同時注重細節以創作出他們支持的作品。我們在Substack中經常使用AI來編寫軟件、進行研究以及構建產品功能，如剪輯、翻譯等。但人們應該知道他們得到的是什麼。”

“我認為Substack解決這個問題的最佳方式是邀請進一步的對話，”Illingworth告訴我。“我實際上很喜歡這個新功能，它讓作者告訴讀者他們如何使用AI構建新聞通訊，這是他們應該鼓勵的對話類型，而不是歸因一個我們知道不正確的分數。我擔心的是，這些AI檢測器不僅會對非英語母語者和神經多樣性作家產生錯誤標記，而且它們從一開始就處於懷疑立場，從而消除了任何對話的機會。而我們需要做的是發展讀者和作者之間的信任機會。”

“我們今天推出的工具旨在提高透明度，為讀者提供更多背景信息，而不是禁止或懲罰AI輔助寫作。它們不會影響平台上的發現，”Substack發言人告訴我。“我們也鼓勵Substack出版商添加‘如何製作’聲明，他們可以在其中直接解釋自己的過程，包括他們如何使用（或不使用）AI，併為讀者設定期望。創作者可以在發佈前後禁用對其文章的檢測，並報告和刪除他們認為是錯誤的掃描。在此處查找有關這些功能如何工作的更多信息。”

Substack檢測和標記AI生成內容的嘗試也受到許多讀者的歡迎，他們對AI垃圾內容以及其他無法或不願標記它的互聯網平台感到厭倦。我剛發佈了一篇報道，關於Spotify上存在大量未標記的AI垃圾內容，以至於人們現在創建自己的網站來檢測和標記它，而無需公司幫助。

但來自一些Substack用户的反彈表明，如果公司想要禁止或允許用户過濾掉信息流中的AI內容，它們不能簡單地一鍵切換。正如我們每天在網上和現實世界中看到的AI寫作和圖片洪流所表明的那樣，生成垃圾內容很容易。我們該如何應對仍然是一個未解決的問題。