AI蒸留に対するパニックを起こさない対応
この記事は、中国の研究所による米国最先端モデルの大規模蒸留を窃盗と見なす見解に異議を唱え、現在の知的財産法はその主張を支持しないと論じる。フロンティアモデルへのアクセス保護に焦点を当てた政策を推奨し、知的財産保護の拡大には反対する。
AI蒸留は、教師モデルの出力を利用して生徒モデルを訓練する手法であり、AI開発において一般的に行われている。しかし、中国の研究所が米国のフロンティアモデルを大規模に蒸留しているという報告が相次ぎ、米国では懸念が高まっている。本記事は、こうした蒸留を「モデル窃盗」と見なす議論に疑問を呈する。
法的に見ると、蒸留はモデルの重みやソースコードを直接取得するものではなく、公開インターフェースを通じて出力を得るに過ぎない。著作権法はモデル出力を保護せず、特許法も適用されにくい。営業秘密法でも、出力が一般利用者にも見えるため、秘密情報とみなすのは難しい。大量蒸留は利用規約違反だが、それだけで窃盗とは言えない。
著者は、蒸留問題への対応として、知的財産保護を拡大するのではなく、不正アクセスの防止と情報共有の促進を提言する。具体的には、AIラボによるアクセス制御の強化、政府との脅威情報共有、制裁の慎重な活用などが挙げられる。過剰な規制は米国のオープンなAIエコシステムを損なう恐れがあるため、冷静な対応が求められる。
さらに、大規模蒸留が実際に危険な能力の拡散につながるかどうかを評価することも重要である。政策立案者は、蒸留がモデル能力を実質的に向上させるのか、あるいは安全対策を弱めるのかを検討すべきだ。その上で、アクセスセキュリティの強化、情報共有の促進、不正行為の訴追・制裁、安全性評価を目的とした政策を策定する必要がある。軽微な立法措置により、政府が脅威情報の収集や共有、プロキシおよび不正アカウントネットワークの特定、ベストプラクティスの策定においてより積極的な役割を果たせるようにすることも提案されている。制裁は外交手段として有効かもしれないが、蒸留を止めるための根本的な解決策ではなく、貿易の観点からバランスを考慮すべきである。