韓國法案要求對AI生成內容強制新增水印

韓國議員正尋求透過一項新法案，對人工智慧生成內容實施嚴格的水印強制要求，並禁止移除水印，以填補現行透明度法規中的“盲區”。該法案由反對黨國民力量黨議員金大植（Kim Dai-sik）等十人於上週提出，旨在修訂今年初生效的《AI基本法》（正式名稱為《人工智慧發展與信任基礎建立框架法》）。

現行法律要求AI服務提供商在生成高度逼真的音訊、影像或影片時通知使用者，但未明確通知的具體位置或形式。因此，大多數服務僅在自身介面內新增小字幕或圖示來滿足要求。然而，當二次創作者截圖、裁剪或重新包裝這些內容時，標籤往往被移除，而根據現行法律，這些下游行為者並不明確被視為違規者。這種漏洞使得AI生成內容“就像由人類創作或描繪真實事件一樣”在網上傳播，議員們在提案中指出。

該法案旨在透過將焦點從平臺使用者介面（如字幕、橫幅或圖示）轉移到嵌入輸出檔案本身的水印來填補這一缺口。它要求提供商在內容中嵌入“程式碼、字母或符號”，以確保AI出處資訊在編輯、下載和重新發布過程中始終附著於檔案，並使得二次創作者更難透過簡單移除螢幕標籤來冒充真實內容。法案還針對篡改水印的行為，禁止任何人損壞、偽造或更改所需的通知或水印。違反者將面臨最高兩年監禁或最高2000萬韓元（約合13500美元）的罰款。

這一立法動向反映了韓國在AI監管領域的積極態度，旨在平衡技術創新與公眾信任。隨著深度偽造技術的普及，確保AI生成內容的可追溯性成為各國關注的焦點。韓國AI基本法於2025年初生效，是韓國首部綜合性AI法律，旨在促進AI產業發展並建立信任基礎。然而，該法在透明度條款上的模糊性導致實際執行效果有限。此次修正案由在野黨國民力量黨主導，反映出兩黨在AI治理問題上的共識。若法案透過，韓國將成為全球少數對AI生成內容實施強制性水印的國家之一。此舉有望增強公眾對AI內容的辨識能力，減少虛假資訊傳播。同時，技術界也關注水印嵌入技術的標準制定，以確保不損害使用者體驗或內容質量。總之，該法案代表了韓國在AI透明度方面邁出的重要一步。