Substack、AI検出機能を追加：誰も書いていないブログを見分ける

Substackは、ユーザーが読んでいるコンテンツがAIによって書かれたものかどうかを判断できる新機能を発表しました。火曜日に公開されたブログ記事によると、このツールは投稿、ノート、返信、コメントをスキャンし、AIによって生成された可能性のあるテキストの割合を推定します。

このツールはAI検出企業Pangramを搭載しており、ウェブ版とiOSアプリで展開が始まり、Android版も「間もなく」リリースされる予定です。読者は投稿の右上隅にある三点メニューから「Scan for AI text」オプションを選択することで、100語以上のコンテンツを分析できます。分析結果はパーセンテージで表示され、テキストのどの部分がAI生成である可能性があるかを示します。

Substackの共同創業者兼CEOであるChris Bestは、ソーシャルメディア上でAIが普及するにつれて、プラットフォームの透明性を高めるためにPangramとの統合を決定したと述べています。「核心の問題はAIを使うことでも、その出力の質でもありません」とBestは書いています。「問題は、読者の期待と現実にミスマッチが生じ、特に読者が気づかないうちに人間の思考が介在しないコンテンツに注意を費やしてしまうことです。それが『Claudefishing』です」。Claudefishingとは、クリエイターがAI生成コンテンツを明示せずに使用し、読者の注意を騙し取る行為を指します。Bestは、このミスマッチが信頼を損ない、底辺への競争を生むと警告しています。

この変更に伴い、Substackはクリエイターが読者に執筆プロセスを説明できる「How I make this」ステートメントも追加します。クリエイターはPangramを使って自分の下書きをスキャンすることもでき、不正確な結果を報告するオプションも利用できます。Bestは「PangramはテキストにAIが使われたかどうかしか検出できません。素晴らしい人間の労力が注がれたかどうか、AIツールがソースとして使われたかどうかは判断できません」と指摘します。したがって、このツールはAIを使用するクリエイターを罰するためのものではなく、読者が情報に基づいて読むかどうかを判断できるようにするためのものです。

Bestによれば、目標は読者がブログ記事を読む時間を投資するかどうかを選択しやすくすることです。「読者が読んでいるものが本物かどうかを疑わなければならない場合、それは作者への信頼を損ない、ライターの生計を脅かします。AIツールを思慮深く使って自分が信じる作品を生み出す人々も含めてです。偽物に報酬を与えるプラットフォームは、底辺への競争を生み出すでしょう」。Substackはこのツールを通じて、AI時代においてもコンテンツエコシステムの誠実性を維持し、クリエイターが透明性を持ってAIを利用する道を提供することを目指しています。