要因1：画像が劣化している
大差で最大のカテゴリーです。検出器が読み取る信号は微細なテクスチャの中に存在し、すべての圧縮、リサイズ、スクリーンショットはこのテクスチャを最初に破棄します。
- 繰り返されるJPEG保存。 ベンチマークでは、クリーンなオリジナル画像で91.3%の精度が、品質40では84.6%まで低下し、実環境ではさらに低下します。
- スクリーンショット。 オリジナルファイルが完全に破棄され、画面解像度で再レンダリングされたもの。
- ダウンスケーリング。 ピクセル数が減り、テクスチャが減ります。短辺が約576ピクセルを下回ると、領域マップすら生成できなくなります。
- プラットフォームの再エンコード。 アップロードのたびに最低1回は再エンコードが行われ、多くの画像はこれを何度も繰り返しています。
- 過度なクロップ。 大きな画像を小さく切り抜くと、モデルが校正に使用したコンテキストが失われます。
劣化はスコアを双方向に中間値へと押しやります。本物の写真はスコアが下がり、生成された画像は上がります。頻繁にやり取りされたファイルの中間的なスコアは、画像ではなくファイルの状態を示していることがほとんどです。
要因2：生成器が未知である
検出器は学習したものしか認識しません。学習終了後にリリースされたモデルは未知の領域であり、未知の出力は不確実ではなく、低いスコアとして判定されがちです。
- 1 生成器がリリースされる その出力を学習したモデルが存在しない
- 2 盲目的な期間 新しい出力が「本物」と判定される
- 3 サンプルが収集される 収集とラベル付けに数週間かかる
- 4 検出器がアップデートされる 次のリリースまで続く
これにより、自信を伴った偽陰性（見逃し）が発生します。これは最も危険なタイプです。ツールは不確実性を示すのではなく、フラグを立てるよう学習した何ものにも似ていないため「問題ない」と報告してしまうのです。
要因3：コンテンツが合成テクスチャに似ている
純粋な本物の画像でも、単に判定が難しいケースがあります。これは騙す意図があったからではなく、画像に含まれるテクスチャが生成物のテクスチャに似ているためです。
- スマホのナイトモードやコンピュテーショナルフォトグラフィー。 ソフトウェアが複数のフレームを合成してノイズを除去するため、画像全体にわたって細部が再構築されます。
- 高度なレタッチ。 肌の平滑化や周波数分離は、顔のテクスチャを再構築します。
- アップスケールされた画像。 拡大はピクセルを捏造します。捏造されたピクセルは生成されたピクセルと同じです。
- イラスト、3Dレンダリング、CGI。 写真ではないため、カメラで撮影された要素が何一つありません。
- 強力なノイズ低減を施したストックフォト。 商用にクリーンに見えるよう加工されたものは、合成と誤読されます。
- 非常にフラットな画像。 空白の壁、澄んだ空、単調な背景は、どちらの方向にもほとんど信号を持ちません。
90年代の生成画像や、1つのホットタイルを持つ局所的な編集と比較してください。このパターンはそのどちらでもありません。
4つ目の家族：意図的な回避
これは最も小さなカテゴリーであり、人々が最も懸念しているものです。画素の関係を書き換えるあらゆる手法はスコアを低下させます。そのほとんどは、実行時に画像を目に見えて劣化させます。
例外は合成です。生成されたオブジェクトを本物の写真に配置した場合、フレームの大部分で本物の質感が維持されます。これがリージョンマップが存在する理由であり、敵対的な目的においてフレーム全体の数値だけでは不十分な理由です。
各障害が発生したときの見え方
| 表示内容 | 最も可能性の高い原因 | 対応策 |
|---|---|---|
| 本物の写真は高スコア、均一で温かみのあるマップ | 処理や圧縮 | 元のファイルを再確認する |
| 本物の写真は高スコア、一部のタイルがホット | 正当な編集、またはフラットな領域 | そのタイル内に何があるかを確認する |
| 生成画像は低スコア、劣化したファイル | 圧縮またはスクリーンショット | クリーンな結果ではなく、回答不能として扱う |
| 生成画像は低スコア、クリーンなファイル | 未知の生成器 | 出所やソースに頼る |
| スコアが中間帯にある | どちらとも判断できる十分なシグナルがない | より良いコピーを探す |
| リージョンマップが生成されない | 画像が小さすぎてタイル分割できない | より大きなコピーを探す |
これらに該当しないもの
制限事項と、検出器がそもそも意図していなかったことを切り分ける価値はあります。範囲外のことを行えなかったからといって、ツールが間違っているわけではありません。
- 誰が画像を作成したかは判断できません。 画素のどこにも、ファイルを特定の人と結びつけるものはありません。
- 内容が真実かどうかは判断できません。 本物の写真に虚偽のキャプションが付けられている可能性があり、そちらの方がより一般的な欺瞞です。
- 生成器を特定できません。 それができるのは、ファイル内の認証情報やマーカーだけです。
- 編集箇所を線引きできません。 リージョンマップはシグナルが集中している場所を示すものであり、操作の境界線を示すものではありません。
これを許容するプロセスを構築する方法
上記の障害は修正を待つバグというよりは恒久的な機能であるため、重要な問いは、どう回避するかではなく、どう設計して対応するかです。
複数のシグナルを組み合わせて使用してください。画素、出所、公開履歴はそれぞれ異なる箇所で失敗します。これら3つすべてで不審に見える画像は、いずれか1つだけで不審に見える画像よりも、はるかに強力な発見となります。
フラグはアクションではなく担当者にルーティングしてください。上記のような深刻な障害も、間違っていた際の結果が「誰かが注意深く確認する」ことであれば許容できますが、「自動的に拒否される」のであれば許容できません。
結論を下す前に、必ず原本を要求してください。驚くほど多くの誤った結果がこのたった一つの手順で解決します。提供されたファイルが、存在する最善のコピーであることはほとんどないからです。