AI ウォーターマークの仕組み (および AI ウォーターマークを適切に確認する方法) は次のとおりです。

最近アントロピックが発表した それ そのクロードモデルはまもなく開始されます テキスト出力に目に見えない透かしを付ける。同時に、Google 独自の目に見えるジェミニの透かしがあることを明らかにしました 生成されたイメージの はオプションになります。これらは、AI 出力に透かしを入れる多種多様な方法の、矛盾する 2 つの例にすぎません。それでは、AI ウォーターマークがどのように機能するのか、そして「目に見えない」場合でもどのように検出できるのかを詳しく見てみましょう。

AI 透かしはどのように機能しますか?

AI 出力に透かしを入れるための正確な方法は、生成されるメディアの種類によって異なりますが、原則は一般に同じです。生成されたメディアには、人間の目や耳では検出できない (または場合によっては検出できる) データが埋め込まれますが、これにより、それが AI によって生成されたものであることが識別されます。透かし検出ツールを使用すると、推測したり透かしを使用したりせずに、何かが AI で作成されたかどうかを識別できます。 信頼できないAI「検出器」。以下に、さまざまなメディア タイプに対してウォーターマークを実装する方法の例をいくつか示します。

• 画像の場合: 画像のピクセルは数学的な値であるため、画像自体に目に見える変化を与えることなく、デジタル署名を埋め込むためにわずかに変更できます。 Googleの シンセIDたとえば、生成された画像全体に不可視の署名を配布するため、トリミングされたバージョンでも透かしの​​検出可能な部分が含まれます。注: これは、Gemini 画像の隅に表示される灰色のシンボルとは異なります。表示される Gemini ウォーターマークをオフにしても、目に見えないウォーターマークは残ります。

• オーディオの場合: オーディオ ファイルに透かしを埋め込むことはさらに簡単になり、特徴的なサウンドを人間の可聴範囲外 (通常は 20 Hz 未満または 20,000 Hz 以上) に配置できます。 SynthID には、透かし検出器で聞くことができるオーディオ コンポーネントが含まれていますが、耳には知覚できないままです。

• ビデオの場合: 当然のことながら、生成されたビデオでは、上記の両方のウォーターマーク手法を組み合わせて使用​​する傾向がありますが、たとえば、偽のコンテンツを作成する誰かが、本物のビデオに付随する AI オーディオを生成する可能性があることに留意する価値があります。つまり、コンテンツのある部分にはウォーターマークが表示され、別の部分には表示されない可能性があります。

• テキストの場合: LLM が生成する次の各単語には確率スコアが付いています。 「猫は」という文は、「ふわふわ」、「かわいい」、または「小さい」で終わる可能性があります。これらの各単語には、出現する確率がパーセンテージで与えられます。テキストの透かしは、特定のランダムな単語のセットが表示される可能性を高めることによって機能します。これにより、LLM で生成されたテキストを、意味論的な意味を変えることなく検出できるようになります。ただし、これは長いテキストの場合にうまく機能する傾向があり、可能性の低い単語の存在を検出する機会が増えます。

• メタデータの場合: C2PA は厳密にはウォーターマークではありませんが、メディアの出所を検証するのに役立つメタデータを追加するためのフレームワークです。たとえば、一部のカメラ メーカーは、写真家に画像の出所を追跡可能な記録を提供するために C2PA を実装しています。これには、画像が AI ツールを使用して生成されたかどうかを記録することも含まれる場合があります。

SynthID は Google の DeepMind で誕生しましたが、同社はこのプロトコルをオープンソース化し、現在では OpenAI を含む他の AI 企業でも使用されています。いくつかの会社。逆に、ウォーターマークをまったく使用しないでください。ウォーターマークを使用する場合、ツール間で実装に一貫性がない可能性があります。言い換えれば、AI 透かしの存在は何かを裏付けることができます。 だった AIで作られたり改変されたりするが、AIが存在しないことはそれを証明できない そうではなかった。

AI ウォーターマークはどうやって検出できるのでしょうか?

SynthID と C2PA は比較的一般的ではありますが、メディアが AI で生成されたかどうかを確認する透かしやメタデータの存在を適切に検出するのは、依然として難しい作業です。 OpenAIにはスタンドアロンツールがあります ファイル内の SynthID または C2PA をチェックできます。また、Google では、Gemini 経由で検証ツールにアクセスすることも、適切なプロンプトが表示されれば Google 自体経由で直接アクセスすることもできます。

ただし、これらのツールには制限があります。 OpenAI の検出器は、何らかの理由で、OpenAI 自体によって生成されたメディアのみを検出するようです。テスト中に、独自の SynthID ウォーターマークを検出できる Gemini 経由で生成された画像をアップロードしようとしましたが、OpenAI のツールはそれを検出できませんでした。

そんな中、Googleが作成したのが、 SynthID Detector ポータルただし、現在は招待制で、特にジャーナリストや検証専門家向けに提供されています。 Gemini または Google 経由で一部の SynthID 検出機能に引き続きアクセスできますが、場合によっては、そのために適切なプロンプトが必要になります。私のテストでは、Gemini 経由で既知の AI 生成画像に対して「これは本物ですか」と尋ねると、ツールは検証ツールを呼び出して SynthID をチェックしました。ただし、Google 経由で同じプロセスを実行すると、LLM の出力は視覚的な分析に似ていました。 SynthID チェックは、特に要求された場合にのみ呼び出されます。

SynthID ウォーターマークまたは C2PA メタデータのすべてのバージョンを注意深くチェックしたとしても、メディアには、別の検出器を必要とする他の形式のウォーターマークが含まれている可能性があります。残念ながら、生成されたメディアの作成にどのツールが使用されたかを示す強​​力な指標がない限り、あらゆる種類のウォーターマークを徹底的にチェックすることは依然として難しい場合があります。

クロードやジェミニが使用しているようなテキストベースの透かしの場合、それを検出するのは依然として非常に困難です。まず、どちらもまだテキストのウォーターマークをチェックする公的方法を提供していません (Google の SynthID Detector ポータルではチェックできますが、一般には利用できません)。

AI透かしは回避できるのでしょうか？

十分な作業を行えば、ウォーターマークは技術的には削除できますが、 SynthID は特にかなり耐性があります 最も典型的な変更形式に適用されます。 SynthID ウォーターマークを含む AI 生成の画像がトリミング、フィルター、または変更された場合でも、元のウォーターマークが検出可能な程度に残っている可能性があります。削除することは不可能ではありませんが、誤って削除することは一般に困難です。

一方、C2PA のようなメタデータを削除するのはかなり簡単です。画像の場合は、スクリーンショットを撮るのと同じくらい簡単です。画像のスクリーンショットは基本的に、画面上に表示されるピクセルに基づいて新しい画像ファイルを作成します。つまり、これらのピクセルに影響を与える透かしはそのまま残りますが、まったく新しいメタデータのセットが作成され、C2PA データも一緒に消去されます。

つまり、画像の信頼性を証明できるメタデータ チェーンを維持したい場合は、特定の元のファイルをダウンロードまたはアップロードし、使用する編集ツールがそのメタデータの維持をサポートしていることを確認することが重要です。

テキストの透かしは最も簡単に回避できるものの 1 つです。これらは特定の単語が出現する確率を変更するだけで機能するため、透かしを使用せずに単語を言い換える別の AI ツールでテキストを実行したり、テキストのブロックを手動で書き換えたりすると、透かしが削除される可能性があります。

ウォーターマークは次のような可能性があることに留意することが重要です。 追加した 本物のメディアに。誰かが簡単な編集を行うために本物の写真を Gemini などのツールにアップロードすると、出力画像にも SynthID のウォーターマークが含まれます。これは画像全体が本物ではないという意味ではありませんが、それでも透かし検出器によってフラグが立てられます。

同様に、Photoshop などの従来の操作手法を使用して被写体の画像を生成し、その被写体を切り取って画像に追加し、ほとんどが本物の画像から作られた本物ではない画像を作成することも可能です。 AI によって生成された画像の部分に透かしが残るかどうかは、ケースバイケースでしか判断できません。

前述したように、透かしがないからといって画像が本物であることを証明することはできません。透かしが存在しても、画像の内容が本物ではないことを証明することはできません。透かしとメタデータは、メディアがどこから来た可能性が高く、どのように変更されたかを把握するのに役立つ単なるツールです。結局のところ、それはあなた次第です オンラインで見たり聞いたりしたことを確認する。