AI generatif menghapus batas antara yang asli dan yang palsu. Cepat. Keras. Tidak dapat diubah. Kami dulu mempercayai mata kami. Kepercayaan itu hilang sekarang.
“Melihat tidak lagi percaya.”
Saat itu bulan Juni 1944. Sekutu menyerang pantai Normandia. Foto yang keluar berbintik, buram, semrawut. Mereka tidak hanya mendokumentasikan sejarah; mereka mendefinisikannya. Jutaan orang tidak pernah melihat perang itu sendiri. Tapi gambar-gambar itu? Mereka menjadi perang bagi mereka. Bukti pengorbanan yang nyata. Keberanian. Dari tujuan kolektif yang meruntuhkan jarak antara penonton dan darah di pasir.
Hal serupa juga terjadi di Lapangan Tiananmen. Satu orang. Deretan tank. Kebuntuan diam-diam yang mengguncang dunia.
Atau orang yang jatuh. Pusat Perdagangan Dunia. Sebuah momen horor yang tersangkut di tenggorokan global kita.
Atau Alan Kurdi. Tiga tahun. Pantai Turki. Sebuah badan yang mengubah kebijakan migrasi dalam semalam.
Ini bukan sekedar catatan. Itu adalah batu ujian budaya. Landasan visual bersama. Masyarakat mengoordinasikan emosi dan tindakan karena mereka. Pemahaman masyarakat dibangun di atas substrat ini.
Lalu apa yang terjadi jika substrat membusuk?
Generator AI kini dapat membuat gambar yang tidak hanya terlihat nyata. Mereka merasa nyata. Menarik secara emosional. Masuk akal secara kontekstual. Dan mereka melakukannya dengan murah. Dengan cepat. Dalam skala besar. Berbeda dengan masa lalu di mana Photoshop meninggalkan jejak jika Anda tahu apa yang harus dicari, sintetis saat ini sudah dipoles. Mereka menunjukkan peristiwa yang tidak pernah terjadi. Orang yang tidak pernah ada. Dan teknologinya menjadi lebih baik setiap bulannya.
Ini adalah kekacauan bagi epistemologi.
Foto berada di urutan teratas hierarki bukti kami. “Melihat berarti percaya” bukan sekadar slogan; itu adalah jalan pintas kognitif. Jembatan antara mata dan otak. Meskipun kami mengetahui bahwa foto dapat direkayasa, kami berasumsi adanya hubungan sebab akibat. Kamera melihatnya, jadi itulah yang terjadi. AI memotong kabel itu.
Risikonya bukanlah teori abstrak.
Di zona perang, kekejaman palsu beredar. Pasukan musuh disalahkan atas kejahatan yang tidak mereka lakukan. Atau kemenangan yang tidak terjadi. Seperti gambar palsu radar Amerika yang dirusak oleh drone Iran? Dibagikan secara luas. Benar-benar dibuat-buat.
Di dalam negeri? Ketegangan rasial berkobar karena adegan yang dipentaskan. Tokoh masyarakat muncul dalam foto-foto yang berisi kebohongan. Trump telah “dipesan” secara online. Itu palsu. Lagipula itu menyebar.
Kecepatan membunuh konteks. Media sosial bergerak lebih cepat daripada verifikasi. Pada saat para ahli menghilangkan prasangka suatu gambar, kerusakan emosional telah terjadi. Atau lebih buruk lagi, mereka menyanggah sesuatu yang nyata. Ingat campuran pudel di dalam kandang? Sebuah badan amal hewan mempostingnya. Netizen berkata, “Jelas palsu, lihat cakarnya.”
Itu nyata.
Namun kebenarannya diabaikan karena skeptisisme menjadi standar utama.
Itulah “keuntungan pembohong”.
Setelah Anda menerima bahwa gambar dapat dipalsukan dengan sempurna, semuanya mencurigakan. Aktor jahat lolos. “Itu AI,” kata mereka. Itu adalah perisai yang nyaman. Bukti autentik menguap karena keraguan.
Demokrasi membutuhkan fakta. Bukan interpretasi. Fakta. Ketika kita kehilangan realitas bersama, kita kehilangan kemampuan untuk menilai bersama. Perbedaan pendapat tidak masalah. Tidak setuju dengan apa yang terjadi? Itu merusak sistem.
Teknologi tidak akan memperbaikinya. Maaf. Alat deteksi menjadi lebih baik? Penghindaran AI juga menjadi lebih baik. Kita kalah dalam perlombaan senjata. Selain itu, deteksi tidak berskala. Dan orang biasa? Mereka bukanlah ahli forensik digital.
Kami membutuhkan hukum. Kami membutuhkan masyarakat.
Sejarah membantu. Fotografi juga mengubah abad ke-20. Hak cipta muncul. Kepenulisan itu penting. Jika Anda tahu siapa pembuatnya, Anda bisa meminta pertanggungjawaban mereka. Undang-undang pencemaran nama baik berhasil karena ada lacak balak. Sebuah nama. Sebuah sumber.
Kita membutuhkan rantai itu kembali.
- Pengungkapan Wajib: Jika itu AI, sebutkan. Saat penciptaan. Saat distribusi. Hapus label. Tidak bersembunyi dalam bayang-bayang. Platform perlu menerapkan hal ini. Peraturan juga.
- Kemampuan Penelusuran: Tanda air kriptografi. Metadata yang merekam kehidupan suatu gambar. Apakah itu diambil oleh sensor atau dihasilkan oleh model? Sistem terstandar yang tidak dapat dihilangkan. Dapat dioperasikan melintasi batas negara.
- Kewajiban: Menghukum penggunaan yang bermaksud jahat. Jika Anda berpura-pura menyakiti seseorang atau mempengaruhi suara, Anda menanggung akibatnya. Platform harus menjaga data asal tetap hidup.
Semua ini tidak akan mengembalikan kepercayaan lama yang naif. Itu sudah mati. Hilang. Era mata polos sudah berakhir.
Tapi kita bisa membangun sesuatu yang lain. Kepercayaan yang kuat. Bukan berdasarkan asumsi, tapi berdasarkan verifikasi.
Normandia bergema karena kami sepakat dengan kenyataan. Kami membutuhkannya lagi. Bukan untuk masa lalu. Untuk masa depan. Ini bukan hanya kesalahan teknis. Ini adalah fitur demokratis. Atau bug yang harus kita atasi sebelum seluruh OS mogok.
