違法なAI生成コンテンツから子供を守る新手法

生成人工知能の人気が爆発的に高まる中、多くのオープンソースモデルがオンラインで入手可能となり、誰でも特定のタスクに適応させることができるようになりました。例えば、特定の芸術スタイルで製品レンダリングを生成するなどです。しかし、これらのモデルは悪意ある行為者の手に渡り、ヘイトスピーチや児童性的虐待素材（CSAM）などの違法コンテンツを生成するように最適化されることもあります。この問題は深刻化しており、全米行方不明・被搾取児童センターは2025年にAI生成CSAMに関する150万件以上の報告を受け、2024年の6万7千件から増加しています。

エンジニアは通常、モデルにプロンプトを与えて出力を検査することで有害な能力をテストしますが、CSAMについては、米国では意図に関係なくそのようなコンテンツを生成することが違法であるため、この方法は不可能です。このジレンマを回避しAIの安全性を向上させるため、MITの大学院生Vinith Suriyakumar、准教授Ashia WilsonおよびMarzyeh Ghassemi率いる科学者チームは、児童保護の非営利団体Thornと協力し、プロンプトを与えずにモデルがCSAMを生成できるかどうかを判断する新しい監査アプローチを開発しました。

彼らの手法は、モデルの内部動作がどのように適応されたかを調べますが、出力を生成することはありません。隠れた表現を調べることで、モデルが有害な画像を生成するように特化されたかどうかを確実に推測できます。テストでは、監査手順はCSAMを生成するように特化されたモデルのバリエーションを100%の精度で特定しました。ホスティングプラットフォームはこの手法を使用して、安全でないモデルにフラグを付け、迅速に削除したり、最初からアップロードを防止したりできます。

「これにより、オープンソースモデルをホストするプラットフォームや法執行機関が、モデルがCSAMを生成できるかどうかを実際にテストする新たな道が開かれます。以前はこれを測定する方法がありませんでした。それは一部の人々が悪用していた大きな盲点でした。今、深刻な悪影響を及ぼしているAI安全性問題に取り組むことができます」と、Suriyakumar氏は述べています。

この手法は、低ランク適応（LoRA）アルゴリズムを利用しています。LoRAは微調整によりモデルを効率的に特定タスクに特化させます。研究者らは出力ではなく、LoRAアルゴリズムが微調整中に行う変更に注目しました。彼らの手法は、これらの変更（LoRAアダプターと呼ばれる）を調査し、出力を生成せずにモデルが有害な能力に特化されたかどうかを判断します。ガウスプロービングと呼ばれる手法を用いて、モデルにランダムなデータポイントのセットを入力し、モデルがそのマルチレイヤーの内部構造内でどのようにデータを操作するかを分析します。

「モデルを最後まで実行したり、プロンプトを与えたりすることはないので、画像を生成することは決してありません」とSuriyakumar氏は説明します。研究者らは、モデルの内部構造の複数の時点でこれらの変更をキャプチャし、平均化してLoRAアダプターがモデルの計算をどのように変えたかを要約します。彼らは、これらの応答がモデルがどのように特化されたかの強力なシグナルであることを発見しました。3種類のモデルのバリエーションで方法をテストし、CSAM生成、その他の有害画像、安全なコンテンツで知られるLoRAアダプターのグラウンドトゥルースデータと結果を比較しました。その結果、CSAM生成に適応されたモデルを識別する精度は100%でした。

「AIには児童保護に関する大きな懸念事項が数多くあり、これらは対処すべき現実の問題です。多くの子供たちがAIディープフェイクによって被害を受けています。ガウスプロービングが非常に有用なツールとなり得ることを示しました。研究コミュニティがこの問題にもっと注目することを願っています」とWilson氏は述べています。

重要なのは、この手法が拡張可能で、実装に比較的コストがかからないことです。毎月何千ものモデルバリエーションがオンラインで公開されているため、拡張性は審査担当者が有害な適応が広く配布される前に除去する鍵となります。ガウスプロービングは他の監査手法よりも堅牢であり、悪意ある行為者は検出を避けるためにベースモデルの内部動作を注意深く変更する必要があります。

将来的には、研究者らはより大規模なモデルバリエーションで手法を評価し、ガウスプロービングが適応前のベースモデルにおける有害な能力を検出できるかどうかを探求したいと考えています。「今、この懸念に部分的に対処する技術的アプローチがあります。このコラボレーションには多大な努力が注がれ、国内および世界中の多くの子供たちに害を及ぼしている非常に困難な問題に取り組むことができました。この分野で変革的な影響を与えることができることを願っています」とGhassemi氏は述べています。

この研究は、一部Bridgewater AIA Labs Research Fellowshipの支援を受けています。