Mengapa aturan transparansi tiba di sini terlebih dahulu
Mengatur apakah media sintetis boleh ada merupakan hal yang sulit dipecahkan. Mengatur apakah orang diberi tahu tentang hal tersebut tidaklah sulit, itulah sebabnya pengungkapan telah menjadi pendekatan umum di berbagai yurisdiksi alih-alih menjadi kebiasaan khusus Eropa.
Alasannya adalah sebagian besar kerugian dalam bidang ini adalah kesalahpahaman alih-alih gambarnya itu sendiri. Seseorang yang percaya bahwa sebuah gambar merekam sesuatu yang terjadi, padahal sebenarnya tidak, adalah kerugiannya, dan sebuah label mengatasinya secara langsung tanpa ada pihak yang menentukan apa yang boleh diproduksi.
Pembingkaian tersebut menjelaskan bentuk dari aturan-aturan tersebut. Aturan-aturan itu melekat pada saat penerbitan dan pada saat produksi, dan sangat sedikit membahas konten itu sendiri, yang diserahkan kepada undang-undang yang berlaku mengenai penipuan, pencemaran nama baik, dan sebagainya.
Kepada siapa setiap kewajiban dibebankan
| Pihak | Kewajiban | Seperti apa bentuknya dalam praktiknya |
|---|---|---|
| Penyedia generator | Menandai output agar dapat dibaca mesin | Metadata tersemat, watermarking, credentials |
| Penerbit media sintetis | Mengungkapkannya kepada orang-orang | Label atau keterangan (caption) yang terlihat |
| Penerbit, penggunaan artistik | Pengungkapan yang lebih ringan | Pengakuan yang tidak merusak karya |
| Deepfake orang nyata | Mengungkapkannya dengan jelas | Kasus paling ketat, sedikit pengecualian |
| Teks tentang hal-hal yang menjadi kepentingan publik | Mengungkapkannya kecuali ditinjau | Tinjauan editorial manusia dapat menggantikannya |
Baris pertama adalah baris yang diasumsikan oleh sebagian besar bisnis berlaku untuk mereka padahal sebenarnya tidak. Kecuali Anda membangun dan memasok sistem generatif, Anda berada di baris kedua: seseorang yang menerbitkan output, dengan kewajiban untuk memberi tahu audiens Anda.
Baris keempat memiliki konsekuensi yang paling tajam, karena penggambaran sintetis dari orang nyata yang dapat diidentifikasi adalah tempat di mana kerugiannya paling konkret. Pengecualian di sana sangat sedikit, dan undang-undang lain kemungkinan besar juga akan berlaku.
Apakah aturan ini menjangkau Anda di luar UE?
Mungkin saja, jika Anda memiliki pengguna di UE. Aturan-aturan ini umumnya mengikuti pasar alih-alih tempat pendirian, dengan cara yang sama seperti aturan perlindungan data, yang berarti menerbitkan ke audiens UE dapat membawa Anda ke dalam cakupan terlepas dari di mana posisi Anda.
Konsekuensi praktis bagi sebagian besar organisasi adalah bahwa satu kebijakan global lebih murah daripada kebijakan yang dibatasi secara geografis (geofenced). Memberi label pada citra sintetis di mana pun biayanya hanya sebuah keterangan; memelihara dua versi dari setiap aset dan aturan mengenai siapa yang melihat versi mana biayanya jauh lebih mahal.
Aturan ini juga bertahan lebih baik seiring waktu. Persyaratan pengungkapan serupa mulai muncul di beberapa yurisdiksi lain, dan organisasi yang telah memberi label tidak perlu melakukan apa pun ketika persyaratan berikutnya tiba.
-
2024
Undang-undang mulai berlaku Kewajiban diberlakukan secara bertahap alih-alih langsung dinyalakan sekaligus.
-
2025
Larangan dan tugas literasi Tahap pertama, mencakup praktik-praktik yang dilarang.
-
2026
Kewajiban transparansi berlaku Penandaan output yang dihasilkan, dan pengungkapan oleh penerbit.
-
Sedang berlangsung
Kode etik dan panduan Bagaimana kewajiban dipenuhi dalam praktiknya masih dalam proses penyesuaian.
-
Di tempat lain
Aturan serupa muncul Persyaratan pengungkapan yang sebanding di yurisdiksi lain.
Seperti apa kepatuhan yang sebenarnya
-
Cari tahu apa yang Anda terbitkan
Audit situs, kampanye, dan output sosial Anda sendiri. Sebagian besar organisasi mendapati citra hasil generasi masuk melalui agensi dan langganan stok yang tidak pernah mereka minta.
-
Catat di mana citra tersebut diizinkan
Dekorasi dan ilustrasi ya, apa pun yang menegaskan fakta tidak. Garis tersebut memiliki peran yang lebih besar daripada aturan khusus teknologi apa pun.
-
Beri label pada keterangan (caption), bukan pada kebijakan
Pengungkapan yang terkubur di halaman ketentuan (terms page) bukanlah pengungkapan kepada orang yang melihat gambar tersebut.
-
Berhenti menghapus metadata
Jika sebuah generator menandai outputnya, menjaga agar penandaan tersebut tetap utuh melalui alur kerja Anda adalah bagian dari inti aturan tersebut.
-
Masukkan ke dalam kontrak pemasok
Agensi dan pekerja lepas perlu mendeklarasikan konten yang dihasilkan dalam hasil pekerjaan mereka. Sebagian besar tidak akan secara sukarela memberikannya karena tidak ada yang meminta.
Langkah kelima adalah tahap di mana usaha Anda memberikan hasil paling maksimal. Suatu organisasi tidak dapat melakukan audit untuk keluar dari rantai pasokan yang terus memasukkan gambar yang tidak dideklarasikan, dan klausul dalam dokumen brief tidak ada apa-apanya dibandingkan dengan peninjauan retrospektif.
Mengapa deteksi bukanlah mekanisme kepatuhan
Perlu diperjelas bahwa aturan-aturan ini dibangun atas dasar deklarasi dan bukan deteksi, memang demikian tujuannya. Kewajiban untuk menandai output pada saat pembuatan dapat ditegakkan; kewajiban untuk mengidentifikasi konten sintetis secara akurat setelah kejadian adalah kewajiban untuk memastikan sesuatu yang tidak dapat dipastikan secara andal oleh siapa pun.
Hal tersebut memiliki implikasi praktis. Memenuhi kewajiban Anda berarti mengetahui apa yang Anda publikasikan dan menyatakannya, bukan menjalankan pendeteksi pada segala hal dan berharap hasilnya sesuai. Deteksi adalah cara untuk mengetahui apa yang diberikan oleh pemasok Anda; itu bukanlah artifak kepatuhan.
Ini juga berarti bahwa skor tinggi pada konten pihak lain bukanlah bukti adanya pelanggaran. Kewajiban berada di pihak penerbit untuk mengungkapkan apa yang mereka ketahui, dan tingkat kesalahan bukanlah temuan mengenai apa yang mereka ketahui.
Apa yang seharusnya dilakukan oleh bisnis kecil
Sebagian besar beban ini jatuh pada organisasi tanpa fungsi kepatuhan, dan respons yang proporsional itu singkat. Tiga tindakan mencakup eksprosa nyata dan memakan waktu setengah hari, bukan proyek besar.
Tuliskan satu baris ke dalam brief pemasok Anda yang mewajibkan konten yang dihasilkan AI untuk dideklarasikan. Satu kalimat tunggal tersebut mengalihkan masalah kepada orang-orang yang benar-benar mengetahui jawabannya, dan itulah kontrol termurah yang tersedia.
Beri label pada citra yang dihasilkan dalam keterangan gambar di mana pun pembaca mungkin menganggapnya sebagai foto. Bukan di halaman kebijakan, bukan di footer, melainkan di keterangan gambar di sebelah foto tempat seseorang yang melihatnya akan langsung mengetahuinya.
Periksa apakah alur kerja gambar Anda tidak menghapus metadata selama proses optimasi. Sebagian besar melakukannya secara default, dan jika generator telah menandai outputnya, membuang tanda tersebut berarti bekerja secara langsung melawan tujuan aturan itu.
Ke arah mana hal ini berjalan
Arah di berbagai yurisdiksi cukup konsisten untuk dijadikan acuan perencanaan, bahkan jika detailnya berbeda. Kewajiban pengungkapan semakin meluas, metadata provenance menjadi infrastruktur alih-alih standar khusus, dan pelabelan platform dibangun di atas penanda alih-alih deteksi.
Hal tersebut memiliki implikasi yang berguna bagi siapa pun yang menerbitkan fotografi asli. Melestarikan provenance telah bergeser dari sekadar kehalusan teknis menjadi aset komersial, karena gambar yang dapat menegaskan keasliannya akan semakin diperlakukan secara berbeda dari gambar yang tidak dapat melakukannya.