教皇はAIの危険性についての文書をAIを使って書いたのか？
教皇レオ14世のAIに関する回勅『マグニフィカ・フマニタス』の一部がAIによって書かれた可能性があるとの分析が示された。AI検出ツールPangramは、特定の段落が40%から100%AI生成であると判定し、「genuinely」という単語の使用増加などの特徴を指摘。ただし、検出は完全ではなく、他の部分は人間による執筆と見なされている。
記事インテリジェンス
要点
- 分析により、教皇の回勅の一部段落が40%～100%AI生成と判明。
- AI検出ツールPangramが「genuinely」の多用などAI執筆の特徴を検出。
- 他の部分は人間執筆と判定され、AI検出には誤検出のリスクも。
- AIに焦点を当てた初の回勅で、Anthropic共同創業者と共に発表。
重要な理由
このニュースが重要なのは、分析により、教皇の回勅の一部段落が40%～100%AI生成と判明ためです。
技術的影響
モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。
教皇レオ14世が人工知能（AI）の人類への影響について発表した回勅『マグニフィカ・フマニタス』の一部は、AIによって書かれた可能性があることが明らかになった。フォーラムLessWrongに投稿された林奇・張（Linch Zhang）による分析では、人気のAI検出ツールPangramを用いて回勅のテキストを調査。その結果、特定の段落のAI執筆割合が40%から100%に及ぶことが判明した。張氏は、文書内にAI生成テキストに典型的な特徴、例えば「genuinely」という単語の使用頻度が過去の回勅よりも高い点を指摘。この単語はAnthropicのClaudeがよく使用することで知られている。別のユーザーが回勅を節ごとにPangramで検出したところ、第1章の62%がAI生成と判定された。The Vergeが約2000語を検出した際には、46%がAI執筆と推定された。
一方で、他の部分は人間が書いたものと判定されている。張氏によると、Pangramは一部の節を「基本的に0% AI」と評価。過去4つの回勅の最後の20段落をPangramで検出した結果、100%人間執筆という結果が出た。教皇レオのスピーチの書き起こしも、Pangramで100%人間と評価された。
AI検出は完璧ではない。検出ツールによって結果が異なる可能性があり、仮に一致しても正確性は保証されない。それでもPangramはAI研究者の間で広く信頼されている。2025年3月、Pangramは人間が書いた作品をAI生成と誤検出する率を「約1万分の1」と推定している。
回勅は教皇が発表する長文の書簡であり、その時代における重要な道徳的・社会的課題に対処する教えを伝えるものだ。ニューヨーク・タイムズによれば、この回勅は教皇レオにとって初めてのもので、前回の回勅は教皇フランシスコが2024年10月に発表している。また、AIとその広範な影響に焦点を当てた初の回勅でもあり、教皇はAnthropicの共同創業者クリストファー・オラーと共に発表した点が注目される。
バチカンはコメントの要請にすぐには応じなかった。この出来事は、AIが宗教文書の作成に利用される可能性についての議論を呼び起こしている。