Substack、AI検出機能を追加

Substackは本日、Pangramと提携した新しいAI検出ツールを発表しました。このツールにより、読者はSubstack上のコンテンツをスキャンして、テキストのうちAIが生成した割合を評価できます。対象は本日以降に公開された100文字以上のテキストです。また、クリエイター向けに、AIの使用有無や使用方法を明示的に共有できる新しい声明スペースも追加されました。AI検出機能は本日よりWeb版とiOS版で利用開始となり、Android版は後日対応予定です。

この機能を発表したブログ記事は、意外にも辛辣なトーンで書かれています。記事では、LinkedIn上におけるAI生成コンテンツの存在を批判し、AIによる偽の人間的つながりを作り出す行為を「Claudefishing」と名付けています。しかし、このような批判にはリスクが伴います。なぜなら、現在最高のAI検出ツールでも完全な正確性を保証できないからです。The Atlanticは以前、AI検出ツール（特にPangram）の精度について詳細に調査し、完璧とは程遠いと結論づけています。

Substackは記事の中で、Pangramで検出できる範囲には限界があることを認め、AIコンテンツやユーザー設定に関する他の機能を検討中であることを示唆しました。同社は、これらの新たな措置は読者に期待値を設定することを目的としており、「人々は自分が何を得ているのかを知るべきだ」という立場を強調しています。この取り組みにより、Substackは透明性とコンテンツの真正性を高める一歩を踏み出しましたが、ツールが不完全である以上、今後の改善が期待されます。

AI検出技術自体は依然として議論の余地があります。Pangramのようなツールの精度は、特に書き換えられたテキストや高度に専門的な文章に対して疑問視されています。Substackのこの動きは、プラットフォームの責任とコンテンツモデレーションに関する議論をさらに促進する可能性があります。将来的にはAI検出の信頼性が向上するかもしれませんが、現時点ではあくまで補助的な手段です。クリエイターもこの機能を慎重に活用し、誤判定による影響を避ける必要があります。全体として、Substackのこの試みはAIコンテンツの氾濫に対処する試みであると同時に、ユーザーの信頼を築くための投資でもあります。