Gemini生成コンテンツの電子透かし「SynthID」が除去可能：研究プロジェクトが新手法を開発
透かしに関する研究を行うプロジェクト「reverse-SynthID」が、GoogleのAI「Gemini」によって生成されたコンテンツに埋め込まれている電子透かし「SynthID」を無力化（除去）できる手法を開発したことを明らかにしました。SynthIDは、AI生成コンテンツであることを示す電子透かしであり、悪意ある目的での利用を防ぐための仕組みです。当初は画像のみに対応していましたが、2024年5月にはテキストや動画にも対応が拡張されています。
研究チームは、Googleのエンコーダーやデコーダーにアクセスすることなく、信号処理とスペクトル解析というアプローチを用いて、SynthIDの透かしが画像の解像度に基づいて固有の搬送周波数構造を持つことを特定しました。さらに、透かしの周波数パターンが同一モデルのGeminiによって生成された画像間で一貫性を保つことも突き止めました。
この成果として、まず90%の精度で透かしを検出できる検出器を開発しました。そして、最も重要な成果として、あらゆる画像解像度でSynthIDの透かしを無力化する手法「マルチ解像度スペクトルバイパス」を開発しました。この手法を用いると、SynthIDの透かしとして埋め込まれている情報の位相の規則性を91%低下させることが可能となり、「透かしがあるAI生成画像だ」と判定されにくくなります。
ただし、開発者であるデニー氏は、この「透かしを消せる」手法について、研究および教育目的に限定していると強く注意喚起しています。具体的には、ツールは透かしの堅牢性に関する研究やセキュリティ分析、スペクトル拡散符号化手法の理解といった3つの目的を想定しており、AI生成コンテンツを人間が生成したものだと偽る目的での使用は厳禁としています。
背景
AIによるフェイクコンテンツの拡散は深刻な社会問題となっており、Googleはこれを防ぐため、AI生成コンテンツに電子透かし「SynthID」を埋め込む仕組みを導入しました。この透かしは、コンテンツの出所を追跡し、信頼性を確保することを目的としています。
重要用語解説
- SynthID: GoogleがAI生成コンテンツに埋め込む電子透かしの名称。AIが生成した画像や文章であることを示す目に見えない痕跡であり、フェイク拡散防止の仕組みです。
- 電子透かし: 画像や音声などのデジタルデータに、人間には知覚できない形で埋め込まれた目印。データの出所や改ざん履歴を追跡するために利用されます。
- マルチ解像度スペクトルバイパス: SynthIDの透かしを無力化する開発された手法の名称。画像の解像度を考慮したスペクトル解析に基づき、透かしの位相の規則性を低下させます。
今後の影響
本技術の公開は、AI生成コンテンツの信頼性検証の難易度を大きく引き下げ、偽情報拡散のリスクを高める可能性があります。今後は、透かし技術の防御側（より強固な透かし）と、除去側（より高度な除去技術）の技術競争が激化し、デジタルコンテンツの真正性検証がより複雑化することが予想されます。倫理的な利用ガイドラインの策定が急務です。