Substack用户称新AI检测工具是'猎巫行动'

Substack平台上的创作者们正在抵制公司推出的AI生成内容检测功能，许多人称其为“猎巫行动”。一些使用AI辅助写作或编辑的Substack用户认为，新政策不公平地歧视他们，而另一些完全不使用AI的用户则担心Substack会错误地标记他们的作品为AI生成，从而损害其声誉。

“我不会为在创作过程中使用AI而道歉。在没有AI的情况下我写了20年，如果我想，我可以再次做到，”拥有小型Substack“Backstage Pass”的Mack Collier写道。“我的产出会下降，我的文章会缺乏结构，而且会更明显地需要一位好编辑。使用AI提高了我的写作质量。这就是我使用它的原因。”

“这些检测器众所周知地极其不准确，”自由撰稿人和数字写作教练Alice Lemee在关于Substack新AI检测功能的视频中表示。“只需一次错误指控，作家的声誉就可能几乎不可逆转地受损。”

Substack首席执行官Christ Best在周二宣布了这些AI检测功能，他表示“越来越难分辨互联网上什么是真实的”，并且“当无人创作的内容占据了本应属于人类的互联网部分时，它会污染公共空间，使发现和倾听人类声音变得困难。”Best解释说，Substack与AI检测工具Pangram合作，该工具现已内置到Substack中，允许任何用户扫描一篇文章。Pangram会给出一个基于百分比的分数，确定写作中有多少是AI或人类生成的。

正如我们之前报道的，AI检测器并不完美，Pangram本身也并非免疫于将人类内容标记为AI，或将AI标记为人类。Pangram首席执行官Max Spero最近告诉我们，公司正在不断努力减少错误，并估计其误报率大约为万分之一。

“我们现在建立了镜像。Pangram是一个真正的机器，经过大量文本训练以进行概率猜测，我们将其指向你的写作，以确定是否隐藏着一个人，”教授、《慢速AI》作者Sam Illingworth在他Substack上题为“Substack的AI检测器与猎巫行动的回归”的文章中写道。“为了判断另一端是否有人类，Substack求助于一台机器。”

Substack还增加了一种方式，让用户添加“如何制作”声明，解释他们的写作过程并披露是否使用AI。“我们不反对人们使用AI辅助工作，我们认为人们应该自由选择表达自己的工具，”Best说。“平台上有一些人是人类写作最大化者，另一些人则公开探索使用AI工具的边界，同时注重细节以创作出他们支持的作品。我们在Substack中经常使用AI来编写软件、进行研究以及构建产品功能，如剪辑、翻译等。但人们应该知道他们得到的是什么。”

“我认为Substack解决这个问题的最佳方式是邀请进一步的对话，”Illingworth告诉我。“我实际上很喜欢这个新功能，它让作者告诉读者他们如何使用AI构建新闻通讯，这是他们应该鼓励的对话类型，而不是归因一个我们知道不正确的分数。我担心的是，这些AI检测器不仅会对非英语母语者和神经多样性作家产生错误标记，而且它们从一开始就处于怀疑立场，从而消除了任何对话的机会。而我们需要做的是发展读者和作者之间的信任机会。”

“我们今天推出的工具旨在提高透明度，为读者提供更多背景信息，而不是禁止或惩罚AI辅助写作。它们不会影响平台上的发现，”Substack发言人告诉我。“我们也鼓励Substack出版商添加‘如何制作’声明，他们可以在其中直接解释自己的过程，包括他们如何使用（或不使用）AI，并为读者设定期望。创作者可以在发布前后禁用对其文章的检测，并报告和删除他们认为是错误的扫描。在此处查找有关这些功能如何工作的更多信息。”

Substack检测和标记AI生成内容的尝试也受到许多读者的欢迎，他们对AI垃圾内容以及其他无法或不愿标记它的互联网平台感到厌倦。我刚发布了一篇报道，关于Spotify上存在大量未标记的AI垃圾内容，以至于人们现在创建自己的网站来检测和标记它，而无需公司帮助。

但来自一些Substack用户的反弹表明，如果公司想要禁止或允许用户过滤掉信息流中的AI内容，它们不能简单地一键切换。正如我们每天在网上和现实世界中看到的AI写作和图片洪流所表明的那样，生成垃圾内容很容易。我们该如何应对仍然是一个未解决的问题。