韩国法案要求对AI生成内容强制添加水印

韩国议员正寻求通过一项新法案，对人工智能生成内容实施严格的水印强制要求，并禁止移除水印，以填补现行透明度法规中的“盲区”。该法案由反对党国民力量党议员金大植（Kim Dai-sik）等十人于上周提出，旨在修订今年初生效的《AI基本法》（正式名称为《人工智能发展与信任基础建立框架法》）。

现行法律要求AI服务提供商在生成高度逼真的音频、图像或视频时通知用户，但未明确通知的具体位置或形式。因此，大多数服务仅在自身界面内添加小字幕或图标来满足要求。然而，当二次创作者截图、裁剪或重新包装这些内容时，标签往往被移除，而根据现行法律，这些下游行为者并不明确被视为违规者。这种漏洞使得AI生成内容“就像由人类创作或描绘真实事件一样”在网上传播，议员们在提案中指出。

该法案旨在通过将焦点从平台用户界面（如字幕、横幅或图标）转移到嵌入输出文件本身的水印来填补这一缺口。它要求提供商在内容中嵌入“代码、字母或符号”，以确保AI出处信息在编辑、下载和重新发布过程中始终附着于文件，并使得二次创作者更难通过简单移除屏幕标签来冒充真实内容。法案还针对篡改水印的行为，禁止任何人损坏、伪造或更改所需的通知或水印。违反者将面临最高两年监禁或最高2000万韩元（约合13500美元）的罚款。

这一立法动向反映了韩国在AI监管领域的积极态度，旨在平衡技术创新与公众信任。随着深度伪造技术的普及，确保AI生成内容的可追溯性成为各国关注的焦点。韩国AI基本法于2025年初生效，是韩国首部综合性AI法律，旨在促进AI产业发展并建立信任基础。然而，该法在透明度条款上的模糊性导致实际执行效果有限。此次修正案由在野党国民力量党主导，反映出两党在AI治理问题上的共识。若法案通过，韩国将成为全球少数对AI生成内容实施强制性水印的国家之一。此举有望增强公众对AI内容的辨识能力，减少虚假信息传播。同时，技术界也关注水印嵌入技术的标准制定，以确保不损害用户体验或内容质量。总之，该法案代表了韩国在AI透明度方面迈出的重要一步。