より安全で透明性の高いAIエコシステムのためのコンテンツ出自の推進

OpenAIは、AIコンテンツの出自（プロベナンス）を向上させる取り組みを進めており、人々がAI生成メディアを識別し信頼できるようにすることを目指しています。この取り組みでは、Content Credentials（コンテンツクレデンシャル）標準を採用し、AI生成コンテンツにその出所や変更履歴を記録した検証可能なメタデータを付与します。また、DeepMindが開発したSynthID技術を統合し、AI生成画像や音声に目に見えない電子透かしを埋め込みます。この電子透かしは、画像の切り抜きや圧縮などの加工後も検出可能です。さらに、OpenAIはユーザーがメディアファイルの出所情報を直接確認できるコンテンツ検証ツールも提供します。これらの対策は、ディープフェイクや偽情報の拡散に対処し、AIエコシステムの透明性と安全性を高めることを目的としています。DALL·EやChatGPTが生成する画像など、自社製品にこれらの技術を組み込むことで、OpenAIはコンテンツの帰属情報を明確にし、責任あるAI利用を促進したいと考えています。