EU AI法と画像ラベリング

なぜ透明性ルールが先に導入されたのか

合成メディアが存在してよいかどうかを規制することは困難です。それについて人々に伝えるかどうかを規制することは可能であるため、開示は欧州特有の慣習ではなく、複数の管轄区域で共通のアプローチとなっています。

その理由は、この分野における害の大部分は画像そのものではなく、誤解であるためです。実際には起こっていないことを、写真が記録していると信じることが不利益であり、ラベルはそのことに対して、何を生成してよいかを誰かが決めることなく直接的に対処するものです。

その枠組みがルールの形状を説明しています。それらは公開の時点と生成の時点に付随しており、コンテンツ自体についてはほとんど言及していません。それについては、詐欺や名誉毀損などに関する既存の法律に委ねられています。

誰にどのような義務があるのか

最初の行は多くの企業が自分たちに適用されると考えているものですが、実際はそうではありません。生成システムを構築・提供していない限り、あなたは2行目です。つまり、出力を公開する立場として、聴衆に伝える義務があります。

4行目が最も厳しいものです。実在の特定の人物を合成的に描写することは、最も具体的な被害をもたらすためです。そこでの例外は限定的であり、他の法律も適用される可能性が高いです。

EU外のユーザーに届く場合

EUのユーザーがいる場合はおそらく適用されます。これらのルールは通常、設立地ではなく市場に従うため（データ保護ルールと同様）、EUの聴衆に向けて公開することは、どこにいても適用範囲内に入ることを意味します。

ほとんどの組織にとっての実務上の結果は、地理的な境界で分けるよりも、単一のグローバルポリシーを運用する方が安上がりだということです。どこでも合成画像にラベルを付けるコストはキャプション一つ分ですが、資産ごとに二つのバージョンを維持し、誰がどちらを見るかを管理するコストはずっと高くなります。

また、長期的に見ても有利です。同様の開示要件が他のいくつかの管轄区域でも現れており、すでにラベリングを行っている組織であれば、新しいルールが導入されても追加の作業は発生しません。

コンプライアンスの実際

1. 何を公開しているかを特定する

   自身のサイト、キャンペーン、ソーシャルメディアの出力を監査します。多くの組織は、代理店やサブスクリプション経由で、意図せず生成画像が入り込んでいることを発見します。

2. どこで許可されているかを明文化する

   装飾やイラストは可、事実を主張するものは不可。この線引きは、技術特有のルールよりも重要です。

3. ポリシーではなくキャプションでラベル付けする

   利用規約ページに埋め込まれた開示は、画像を見ている人に対する開示ではありません。

4. メタデータを削除しない

   生成AIが生成物にマークを付与している場合、そのマークをパイプライン全体で保持し続けることがルールの目的の一つです。

5. サプライヤーとの契約に盛り込む

   代理店やフリーランサーは、納品物に含まれる生成コンテンツを申告する必要があります。誰も求めていないため、自ら進んで申告する人はほとんどいません。

5番目のステップは、最も効果が期待できる部分です。未申告の画像が追加され続けるサプライチェーンを、組織が監査だけで管理することは不可能です。契約書に一文加えるコストは、事後のレビューに比べれば皆無に等しいものです。

なぜ検出ツールがコンプライアンスの手段にならないのか

これらのルールは「検出」ではなく「申告」に基づいて構築されていることを明確にしておく必要があります。これは意図的な設計です。生成時点で出力にマークを付ける義務には強制力がありますが、事実関係が確定できないコンテンツを事後に正しく識別せよという義務は、誰にも責任が持てない事柄に対して正確さを求めることになります。

これには実際的な意味があります。義務を果たすとは、何を公開したかを把握してそれを表明することであり、すべてを検出ツールにかけてその結果に期待することではありません。検出とはサプライヤーから何が提供されたかを確認する手段であり、コンプライアンスの成果物ではありません。

また、他者のコンテンツに対して高いスコアが出たからといって、それが違反の証拠になるわけでもありません。公開者には知っていることを開示する義務があり、エラー率は公開者が何を知っていたかを示すものではありません。

小規模事業者が実際にすべきこと

これらの対応の多くはコンプライアンス機能を持たない組織に向けられたものであり、相応の対策は簡潔です。3つのアクションで現実的なリスクをカバーでき、プロジェクトを立ち上げる必要もありません。

サプライヤーへの指示書に、生成コンテンツの申告を求める一文を加えてください。その一文だけで、問題の解決は実際に答えを知っている担当者へと委ねられ、最も低コストな管理体制となります。

読者が写真だと誤認する可能性がある場所では、キャプションに生成画像であることを明記してください。ポリシーページやフッターではなく、画像を見る人が目にするキャプション欄に記載します。

最適化の過程でメタデータが削除されないよう、画像パイプラインを確認してください。多くのツールではデフォルトで削除されますが、生成AIがマークを付与している場合、それを破棄することはルールの目的に真っ向から反します。

今後の動向

各管轄区域の方向性は、細部に違いがあっても計画を立てるには十分整合しています。開示義務は拡大し、来歴（プロバインス）メタデータはニッチな規格ではなくインフラとなりつつあり、プラットフォームのラベル付けも検出ベースではなくマークベースで構築されています。

これは、オリジナルの写真を公開するすべての組織にとって重要な意味を持ちます。来歴情報の保持は、技術的な付加価値から商業的な資産へと移行しています。自身が何であるかを証明できる画像は、そうでない画像とは今後ますます区別されるようになるからです。