韓国、AI生成コンテンツにウォーターマーク義務付け法案

韓国の議員らは、人工知能（AI）が生成したコンテンツにウォーターマークを義務付け、その除去を犯罪とする法案を提出した。これは、現在の透明性ルールに存在する「盲点」を埋めるための措置である。法案は先週、最大野党「国民の力」のキム・デシク議員ら10人の議員によって提出され、今年初めに施行されたAI基本法（正式名称：AIの発展と信頼基盤の構築に関する枠組法）の改正を目指す。

現行法では、AIサービス提供者は、高度にリアルな音声、画像、動画がAIによって生成された場合、ユーザーに通知することが義務付けられている。しかし、通知の場所や形式は指定されておらず、ほとんどのサービスは自社のインターフェース内に小さなキャプションやアイコンを表示するだけで要件を満たしている。そのため、二次クリエイターがスクリーンショットを撮ったり、トリミングしたり、再パッケージ化したりすると、ラベルはしばしば削除される。現行法では、これらの下流の行為者はラベル除去の違反者として明確に扱われていない。この隙間により、AI生成コンテンツが「人間が作成したか、実際の出来事を描写したかのように」オンラインで流通することを許していると、議員らは提案書で指摘している。

法案は、プラットフォームのユーザーインターフェース（キャプション、バナー、アイコンなど）から、出力ファイル自体に埋め込まれたウォーターマークへ焦点を移すことで、この隙間を埋めることを目指している。提供者はコンテンツ自体に「コード、文字、記号」を埋め込むことが求められる。これにより、AI由来の情報が編集、ダウンロード、再投稿されてもファイルに付随し続け、二次クリエイターが画面上のラベルを剥がすだけでAI生成物を本物と偽ることが難しくなる。法案はまた、これらのマークを改ざんする行為も対象としており、必要な通知やウォーターマークを損傷、偽造、または変更することを禁止している。違反者には最大2年の懲役または最大2000万ウォン（約13500ドル）の罰金が科される。

この法案は、韓国がAI規制において積極的な姿勢を示すものであり、技術革新と公衆の信頼のバランスを取ることを目的としている。深層偽造技術の普及に伴い、AI生成コンテンツの追跡可能性を確保することは、各国の関心事となっている。韓国AI基本法は2025年初めに施行された同国初の包括的AI法であり、AI産業の発展と信頼基盤の構築を目指すが、透明性条項の曖昧さが実効性を制限していた。今回の改正案は野党主導で提出されたが、与野党間でAIガバナンスに関する一定の合意が見られる。もし可決されれば、韓国はAI生成コンテンツに強制的なウォーターマークを義務付ける世界でも数少ない国の一つとなり、他の国のAIコンテンツ識別規制の参考となる可能性がある。技術コミュニティは、ユーザー体験やコンテンツ品質を損なわないよう、ウォーターマーク埋め込み技術の標準化に関心を寄せている。全体として、この法案は韓国におけるAI透明性向上への重要な一歩である。