Substackユーザー、新しいAI検出ツールを「魔女狩り」と非難

Substackプラットフォーム上のクリエイターたちは、同社が導入したAI生成コンテンツ検出機能に対して反発しており、多くの人がこれを「魔女狩り」と呼んでいる。AIを補助的に使って記事を作成・編集している一部のSubstackユーザーは、新しいポリシーが自分たちを不当に差別していると感じており、一方でAIを全く使わないユーザーは、Substackが誤って自分の作品をAI生成と判定し、評判を傷つけることを懸念している。

「創作過程でAIを使ったことを謝るつもりはない。AIなしで20年間執筆してきたし、必要ならまたできる」と、小さなSubstack「Backstage Pass」を運営するMack Collier氏は書いている。「私のアウトプットは減り、投稿の構造はより弱くなり、良い編集者が必要であることがより明らかになるだろう。AIを使うことで、私の文章の全体的な質が向上する。それが私が使う理由だ。」

「これらの検出器は悪名高いほど不正確だ」と、ゴーストライター兼デジタルライティングコーチのAlice Lemee氏は、Substackの新しいAI検出機能についてのビデオで述べている。「たった一度の誤った告発で、作家の評判はほぼ不可逆的に傷つく可能性がある。」

SubstackのCEOであるChrist Best氏は火曜日、AI検出機能を発表した投稿で、「インターネット上で何が本物かを見分けるのがますます難しくなっている」と述べ、「誰も作っていないコンテンツが、本来人間が占めるべきインターネットの一部を乗っ取ると、共有地を汚染し、人間の声を発見して聞くことを困難にする」と述べた。Best氏は、SubstackがAI検出ツールPangramと提携し、現在Substackに組み込まれており、任意のユーザーが文章をスキャンできると説明した。Pangramはその後、文章のどの程度がAIまたは人間によって生成されたかを判定するパーセンテージベースのスコアを生成する。

これまで報じてきたように、AI検出器は完璧ではなく、Pangram自身も人間のコンテンツをAIとラベル付けしたり、AIを人間とラベル付けしたりすることを免れない。PangramのCEOであるMax Spero氏は最近、同社は常にエラーの最小化に取り組んでおり、誤検出率は約1万分の1と推定していると述べた。

「私たちは今、鏡像を構築しました。Pangramは実際の機械であり、膨大な量のテキストで訓練され、確率的な推測を行います。そして私たちはそれをあなたの文章に向け、人間が隠れているかどうかを判断します」と、教授で『Slow AI』の著者であるSam Illingworth氏は自身のSubstackで、「SubstackのAI検出器と魔女狩りの帰還」と題した投稿で述べている。「反対側に人間がいるかどうかを判断するために、Substackは機械に頼るのです。」

Substackはまた、ユーザーが「How I make this」声明を追加できる機能も追加し、そこで執筆プロセスを説明し、AIを使用しているかどうかを開示できるようにした。「私たちは、人々が仕事を支援するためにAIを使うことに反対しているわけではなく、自分を表現するためにどのツールを使うかは自由に選べるべきだと考えています」とBest氏は述べた。「プラットフォームには、人間による執筆を最大化する人もいれば、AIツールを使いながら細部にこだわり、自信を持って発表する作品を模索している人もいます。Substackでは、ソフトウェアの作成、研究、クリッピングや翻訳などの製品機能の構築に常にAIを使用しています。しかし、人々は自分が何を得ているのかを知るべきです。」

「Substackがこれに対処する最善の方法は、さらなる対話を促すことだと思います」とIllingworth氏は私に語った。「私は実際、著者がAIを使ってニュースレターをどのように構成しているかを読者に伝える新機能をとても気に入っています。そして、これは彼らが奨励すべき対話の種類であって、間違っているとわかっているスコアを付けることではありません。私の懸念は、これらのAI検出器が非ネイティブ英語話者や神経多様性のある作家に対して誤ったフラグを立てるだけでなく、最初から疑いの立場から始めるため、対話の機会を奪ってしまうことです。必要なのは、読者と著者の間の信頼を育む機会を開発することです。」

「本日導入したツールは、透明性を高め、読者により多くのコンテキストを提供することを目的としており、AI支援による執筆を禁止したり罰したりするものではありません。それらはプラットフォーム上の発見に影響を与えません」とSubstackの広報担当者は私に語った。「また、Substackの出版社には、プロセスを直接説明し、AIの使用（または不使用）についてどのようにしているか、読者に期待値を設定できる「How I make this」声明を追加することを推奨しています。クリエイターは、公開前後に投稿の検出を無効にしたり、自分の作品に対する誤ったスキャンを報告して削除したりすることができます。これらの機能の詳細についてはこちらをご覧ください。」

SubstackがAI生成コンテンツを検出してラベル付けする試みは、AIスラッジやそれをラベル付けできない、あるいはしたくない他のインターネットプラットフォームにうんざりしている多くの読者からも歓迎された。私は先日、Spotify上にラベル付けされていないAIスラッジが多すぎるため、人々が独自のサイトを作成して検出・ラベル付けしているという記事を公開した。

しかし、一部のSubstackユーザーからの反発は、企業がAIコンテンツを禁止したり、ユーザーがフィードからフィルタリングできるようにしたい場合、単にスイッチを切り替えるだけではできないことを示している。私たちが毎日ウェブや現実世界で目にするAIによる文章や画像の氾濫が明らかにするように、スラッジを生成するのは簡単だ。それに対して何をするかは、まだ未解決の問題である。