グーグルは火曜日、人間が作成した画像とAIが生成した画像をユーザーが区別できるようにするため、自社の製品全体にコンテンツ認証技術を実装する計画を発表した。今後数か月かけて、このテクノロジー大手は、デジタルコンテンツの出所と編集履歴を追跡するために設計されたシステムであるコンテンツの出所と真正性に関する連合（C2PA）標準を検索、広告、そしておそらくYouTubeサービスに統合する予定だ。しかし、他人が作成した記録メディアに対する信頼という古くからの社会問題を技術的な解決策で解決できるかどうかは未解決の問題だ。
2019年初め、テクノロジー企業グループがC2PAシステムを構築し、オンラインで誤解を招くようなリアルな合成メディアに対抗しようとした。AI生成コンテンツが普及しリアルになるにつれ、ユーザーが遭遇する画像の真正性を判断することが困難になるのではないかと専門家は懸念している。C2PA規格は、オンライン署名機関によって裏付けられたコンテンツのデジタル証跡を作成し、画像の出所や変更方法に関するメタデータ情報が含まれる。
Google はこの C2PA 標準を検索結果に組み込み、ユーザーが画像が AI ツールを使用して作成または編集されたかどうかを確認できるようにします。このテクノロジー大手の Google 検索、レンズ、Circle to Search の「この画像について」機能では、利用可能な場合にこの情報が表示されます。
Google の信頼と安全性担当副社長であるローリー・リチャードソン氏は、ブログ投稿で、プラットフォーム間でコンテンツの来歴を確立することの複雑さを認めた。同氏は、「コンテンツの来歴を確立し、伝えることは、製品やサービスに応じてさまざまな考慮事項を伴う複雑な課題です。オンライン上のすべてのコンテンツに万能の解決策がないことは承知していますが、持続可能で相互運用可能なソリューションを作成するには、業界内の他の企業と協力することが不可欠です」と述べた。
同社は、改ざん攻撃に対するセキュリティが強化されているとされる C2PA の最新技術標準バージョン 2.1 を使用する予定だ。Google は「重要なポリシーを強制する」方法として C2PA メタデータを自社の広告システムに組み込む予定であるため、この標準の使用は検索だけにとどまらない。YouTube も将来的には、カメラで撮影したコンテンツに C2PA 情報を統合する可能性がある。
Googleは、この新しい取り組みは、Google DeepMindが開発した埋め込み型透かし技術であるSynthIDの開発など、AIの透明性に向けた同社の他の取り組みと一致していると述べている。
C2PAの広範な有効性は依然として夢のまま
少なくとも 5 年前に遡る歴史があるにもかかわらず、C2PA のような有用なコンテンツ来歴テクノロジーへの道は険しい。このテクノロジーは完全に任意であり、キー認証メタデータは追加された画像から簡単に削除できる。
AI 画像ジェネレーターは、生成される各ファイルに C2PA 情報を含めるための標準をサポートする必要があり、これにより Flux などのオープンソース画像合成モデルが排除される可能性があります。したがって、実際には、AI 生成画像よりも、カメラで作成された「本物」のメディアの方が C2PA でラベル付けされる可能性があります。
さらに、メタデータを維持するには、ソースや画像の編集やレタッチに使用するソフトウェアなど、あらゆる段階で C2PA をサポートする完全なツールチェーンが必要です。現在、C2PA 標準をサポートしているのは、ライカなどの少数のカメラメーカーのみです。ニコンとキヤノンは採用を約束していますが、The Verge の報告によると、Apple と Google がスマートフォン デバイスに C2PA サポートを実装するかどうかはまだ不透明です。
Adobe の Photoshop と Lightroom は C2PA データを追加および維持できますが、他の多くの一般的な編集ツールではまだこの機能が提供されていません。チェーン内に非準拠の画像エディターが 1 つあるだけで、C2PA の有用性が損なわれます。また、オンライン プラットフォーム全体で C2PA データの表示方法が標準化されていないことも、この標準を日常のユーザーにとって有用なものにする上でのもう 1 つの障害となっています。
現在、C2PA は、偽画像に関する現在の信頼性の問題に対する技術的な解決策と見なすことができます。その意味では、C2PA は、C2PA メタデータが保存されている場合、情報が信頼できるソースからのものかどうかを判断することによってコンテンツを認証するために使用される多くのツールの 1 つになる可能性がありますが、それだけでは AI によって生成された誤情報に対する完全な解決策にはなりそうにありません。