Googleの新しいAI画像検出器をテストしてみたが、騙すのは難しい（不可能ではない）

学校のポスターからレストランのメニューに至るまで、今日では私たち全員が大量の AI 画像と共存しなければなりません。AI で作られたものであることを示す情報は依然として存在しますが、常に存在するわけではありません。多くの場合、AI 画像と本物の画像を区別することはほぼ不可能です。

これはあらゆる理由で問題となるため、AI 企業はこの問題に対処しようとしています。 Gemini と ChatGPT によって生成された画像には、SynthID と呼ばれる目に見えない透かしが付いています。そうすれば、AI が生成した画像の出所を特定するために目に見えるブランドを付ける必要がなくなります。もちろん、このウォーターマークが存在するかどうかを確認するには、検出器にアクセスする必要があります。偶然にも、Google はスタンドアロンのサービスを開始したばかりです。 SynthIDチェッカーツール ウェブ上で誰でも無料で利用できます。 「SynthID Detector」を試してみたところ、ほぼ期待どおりに機能しましたが、完璧ではありませんでした。

Google の SynthID 検出器の仕組み

SynthID は常に AI を検出するとは約束しません。
クレジット: ライフハッカー

ここしばらく、Gemini では画像をアップロードして、それが AI によって生成されたかどうかを尋ねることができました。新しいオンライン ポータルを使用すると、確認がさらに簡単になります。ただし、Google アカウントでサインインする必要があります。アクセスすると、さまざまなファイルを確認できます。このチェッカーは、JPG、JPEG、PNG、BMP、WEBP、AVIF、HEIC、HEIF、TIFF、TIF、GIF 画像形式をサポートしています。ビデオは MP4、MOV、WEBM、オーディオは WAV、MP3、OGG、FLAC、AAC、M4A に対応します。ファイルが SynthID をサポートする AI によって作成された限り、ウォーターマークが必要です。 (SynthID ウォーターマークは、Nvidia、OpenAI、Kakao、Google によってサポートされている標準ですが、OpenAI には 独自の検出ツール。）

Googleは、おそらく回避を困難にするため、SynthIDがどのように機能するかを正確には述べていないが、ウォーターマークが「一般的な変換に対して堅牢」であることは認めている。また、透かしは「コンテンツ自体に織り込まれている」とも述べており、これは画像やビデオの場合はピクセル、音声の場合は周波数成分を意味する。同社はまた、自社の検出ツールが完全ではないことも認めている。いわゆる「大幅な変更」は、同じ画像に複数の「変換」を適用すると、透かしサインを劣化させる可能性があります。可能な限り高品質のファイルを使用することが推奨されているため、データが多いほど検出の信頼性が高くなるように思えます (AI テキスト検出器と同様)。

Google はまた、SynthID のウォーターマークは人間には「知覚できない」ため、探したり耳を傾けたりする必要はなく、このような AI 検出ツールによってのみ明らかにされると述べています。 AI を使用して画像、ビデオ、またはオーディオを生成している場合、透かしは最終結果の品質にいかなる影響も与えません。

SynthID Detector をテストする

いくつかの簡単なテストから始めました。検出器は、Gemini と ChatGPT で作成され、ディスクに直接ダウンロードされたイメージが実際に偽物であることを正確に検出しました。確認には数秒しかかからず、作成に使用された AI ツールも特定されました。

また、私自身の写真の 1 枚には AI が含まれていないと正しくマークされましたが、そのメディアが AI で作られた可能性は「ありそうもない」として、答えは少し回避されました。検出器が自信を持って言えるのは、SynthID ウォーターマークは存在しなかったということだけであり、特にこのウォーターマークがチェック対象であることを示しています。 AI の他の兆候を探しているわけではありません。

ほとんどのテストでは、検出器は完璧に機能しました。
クレジット: ライフハッカー

次に、同じ AI 画像のスクリーンキャプチャを試みたところ、検出器はそれらが Google と Anthropic の AI ツールからのものであることを正しくフラグ付けしました。これは、ファイルのメタデータ自体ではなく、ピクセルの奥深くに何かが埋め込まれていることを示しており、SynthID のウォーターマークが明らかになります。コピーして貼り付けるだけでは回避できません。 AI 画像に Photoshop の油絵フィルターを適用しても、検出器に引っかかることはなく、わずかなぼかしも加えられませんでした。カラー、コントラスト、トーンを調整しても変化はなく、2 つの異なる AI 画像 (Gemini から 1 つと ChatGPT から 1 つ) を切り取って結合しても、検出器は依然として SynthID を検出しました。

結局、私は探知機を打ち負かしました。 1 回目は AI 画像を大幅にピクセル化したときであり、もう 1 回目は、75% が本物で 25% が AI によって生成された合成画像を作成したときでした。連携する AI が少ないと、検出器が不安定になる可能性があります。

この写真の前景にいる男性だけが AI ですが、検出器はそれを偽物としてフラグを立てました。
クレジット: ライフハッカー

その結果をもとに、ChatGPT を使用して、本来の集合写真に追加の人物を追加しました。ただし、今回はツールが SynthID を検出しました。たとえ全体の画像に AI が含まれていたわけではありません。部分的にのみ AI である画像には処理が必要になる可能性がありますが、検出器が処理できるデータが少ないため、これは当然のことです。

ここにはクォータ制限があり、1 日あたり約 10 ファイルのようですが、画像、ビデオ、オーディオ ファイルはそれぞれ 10 です。制限に達した場合、再試行するには 24 時間待つ必要があります。私の知る限り、SynthID Detector は Google が言うとおり、便利なチェックではありますが、どちらにしても保証には程遠いものです。