Mengapa AI masih salah membuat tangan, dan kapan tidak

Mengapa tangan dulunya benar-benar sulit

Itu bukan kebetulan. Tangan memiliki lebih banyak sendi independen daripada hampir semua bagian tubuh lainnya, dan jumlah konfigurasi berbeda yang dapat dibentuknya sangat besar jika dibandingkan dengan, katakanlah, wajah, yang bervariasi dalam rentang yang jauh lebih sempit.

Tangan juga terus-menerus terhalang. Jari-jari melewati di belakang jari-jari, genggaman menyembunyikan sebagian besar telapak tangan, dan garis luar yang terlihat berubah sepenuhnya dengan sedikit rotasi. Model yang belajar dari foto melihat berbagai macam bentuk parsial yang sangat besar untuk satu objek.

Dan data pelatihannya tidak membantu. Foto-foto disusun di sekitar wajah, dan tangan muncul di tepi bingkai, buram karena gerakan, dipotong, atau memegang sesuatu yang menyembunyikannya. Contohnya berlimpah dan berkualitas rendah persis dengan cara yang penting.

Jika digabungkan, hal itu menghasilkan kegagalan yang familier: model yang tahu bahwa tangan memiliki hal-hal berbentuk jari yang terikat dan tidak memiliki pemahaman yang andal tentang berapa banyak, dalam susunan apa, pada skala apa.

Apa yang memperbaikinya

Bukan hal yang eksotis. Lebih banyak data, dianotasi dengan lebih baik, ditambah perubahan arsitektur yang meningkatkan cara model menangani struktur spasial secara umum, ditambah perhatian eksplisit dari tim yang lelah dengan kritik.

Baris terakhir adalah inti dari keseluruhan artikel. Cacat tersebut diperbaiki bertahun-tahun yang lalu dan sarannya masih beredar, yang berarti orang-orang secara aktif salah membaca gambar dengan menerapkannya.

Mengapa penghitungan sekarang gagal di kedua arah

Negatif palsu terlebih dahulu: tangan yang benar tidak membuktikan apa-apa. Model saat ini merender tangan dengan benar sebagian besar waktu, jadi gambar yang lulus tes jari telah lulus tes yang hampir dilalui oleh semuanya.

Positif palsu kedua, dan yang ini menyebabkan lebih banyak kerugian. Tangan asli yang difoto dalam gerakan menghasilkan bentuk yang kabur, menyatu, tampaknya cacat. Foto asli seseorang yang bergestur di sebuah pesta dapat terlihat, bagi seseorang yang bersiap untuk menghitung, persis seperti hal yang diperingatkan kepada mereka.

Asimetri tersebut penting karena biayanya jatuh secara tidak merata. Salah mengabaikan gambar yang dihasilkan sebagai hal yang nyata biasanya dapat dipulihkan; salah menuduh foto asli, dan orang di dalamnya, tidak dapat dipulihkan.

Itu juga memperkuat diri sendiri. Seseorang yang telah diberi tahu bahwa tangan adalah tanda pengenal menemukan tangan yang terlihat ganjil, menyimpulkan bahwa gambar itu palsu, dan mengulangi saran yang menghasilkan kesalahan tersebut, yang merupakan cara heuristik yang sudah pensiun bertahan lebih lama dari kegunaannya selama bertahun-tahun.

Apa yang diajarkan oleh episode ini tentang setiap tanda pengenal lainnya

Tangan adalah contoh nyata dari pola umum, dan pola tersebut lebih berguna daripada kiat khusus apa pun.

• Cacat yang terlihat adalah tolok ukur publik. Apa pun yang dapat dinamai akan diukur, dan apa pun yang diukur akan dioptimalkan.
• Popularitas mempercepat perbaikan. Semakin luas tanda pengenal diulangi, semakin besar insentif untuk menghapusnya.
• Saran bertahan lebih lama dari cacat selama bertahun-tahun. Koreksi tidak pernah menyebar secepat kiat aslinya.
• Perbaikan tidak merata di berbagai alat. Tanda pengenal yang dihapus dalam model andalan mungkin tetap ada pada model yang lebih lama atau lebih kecil.
• Residu bergerak ke bawah. Yang bertahan bukanlah cacat yang terlihat melainkan tekstur statistik, yang berada di bawah apa yang dapat diselesaikan oleh mata.

Poin terakhir adalah alasan mengapa alat deteksi ada sama sekali. Jika perbedaannya masih terlihat, tidak seorang pun akan membutuhkan model untuk menemukannya, dan seluruh bidang akan menjadi daftar hal-hal yang harus dicari.

Apa yang masih bertahan

Dua keluarga pemeriksaan telah menolak pola tersebut, dan keduanya berkaitan dengan koherensi di seluruh bingkai daripada detail lokal.

Pencahayaan adalah yang pertama. Setiap permukaan dalam foto diterangi oleh sumber yang sama, sehingga arah bayangan, kekerasan, dan suhu warna semuanya cocok. Adegan yang dihasilkan sering kali membuat subjeknya benar dan sekitarnya kira-kira benar, dan ketidaksepakatan itu terlihat pada bayangan.

Kontinuitas fisik adalah yang kedua. Tali yang melewati di belakang bahu dan muncul kembali di tempat yang salah, pantulan yang menunjukkan ruangan yang seharusnya tidak ada, pola yang gagal sejajar di seberang oklusi. Ini membutuhkan model dunia daripada model penampilan.

Keduanya bukanlah tes cepat, dan itulah kesimpulan yang jujur. Pemeriksaan yang masih berfungsi memerlukan pengamatan gambar sebagai suatu tempat, dan pemeriksaan yang cepat adalah pemeriksaan yang telah diperbaiki.

Artinya bagi siapa pun yang mengajarkan ini

Sebagian besar materi literasi media masih mengawali dengan penghitungan jari, yang sekarang mengajarkan orang-orang sebuah tes yang menghasilkan kesalahan dengan keyakinan. Siapa pun yang menulis pelatihan, panduan, atau pelajaran sekolah tentang hal ini memiliki masalah versi daripada masalah konten.

Versi yang tahan lama dari pelajaran tersebut adalah tentang metode daripada tentang fitur. Ajarkan bahwa cacat yang terlihat bersifat sementara, bahwa tanda pengenal apa pun yang cukup populer untuk diajarkan cukup populer untuk diperbaiki, dan bahwa pertanyaan yang dapat diandalkan adalah tentang sumber dan konteks.

Penting juga untuk mengajarkan mode kegagalan secara eksplisit. Seseorang yang tahu bahwa tangan asli dalam gerakan terlihat salah jauh lebih kecil kemungkinannya untuk membuat tuduhan yang benar-benar merusak, yaitu menyebut foto asli dari orang sungguhan sebagai palsu.

Judul yang jujur untuk materi semacam itu adalah bahwa tidak ada tes visual cepat yang bertahan dalam kontak dengan model saat ini, dan bahwa keterampilan yang berguna adalah menanyakan dari mana gambar berasal dan siapa diuntungkan dari keyakinan terhadapnya.