Iman dalam Ancaman Mesin AI dan Deepfake

Jakarta -

Kita tidak sedang menghadapi hoax biasa. Kita sampai pada senjata baru dalam perang identitas. Dalam konflik mazhab, dalam radikalisasi berbasis agama, deepfake bisa menjadi percikan api yang tak bisa dipadamkan.

Bayangkan seseorang membuka gawai dan menyaksikan video seorang ulama terkenal sedang berkata, "Bunuh mereka. Mereka kafir. Darah mereka halal."

Wajahnya tak asing. Suaranya meyakinkan. Kutipan ayat mengalir lancar dari bibirnya. Video itu segera dikirim ke grup keluarga, komunitas pengajian, dan menyebar ke ratusan kanal Telegram dalam hitungan jam. Lalu bom meledak!

Padahal, itu bukan suara sang ulama. Bukan pula kata-kata yang pernah ia ucapkan. Video itu palsu, disusun oleh mesin. Sebuah deepfake-rekayasa digital yang memalsukan realitas dengan presisi tinggi, cukup untuk menipu iman dan menggerakkan pelatuk senapan.

Teknologi ini semakin hari kian mengerikan. Wajah siapa pun bisa ditiru, suara siapa pun bisa disalin, lalu disisipkan dalam rekaman palsu yang memprovokasi. Jika sebelumnya propaganda radikal memerlukan jaringan luas dan proses panjang, kini cukup satu video palsu yang tampak otentik untuk memprovokasi ratusan orang. Deepfake membuat kebohongan terlihat seperti wahyu.

Dalam konteks keagamaan, ini adalah malapetaka.

Satu video palsu bisa membakar masjid. Satu rekaman editan bisa menyalakan konflik antar mazhab. Kita hidup dalam zaman di mana yang dilihat dianggap benar, dan kebenaran tak sempat dicari karena amarah lebih dulu datang.

Contoh konkret sudah banyak. Di India, sebuah video deepfake menunjukkan tokoh Muslim yang seolah-olah menyerukan kekerasan terhadap umat Hindu. Dalam waktu singkat, kerusuhan meletus di beberapa negara bagian.

Polisi membantah video itu, namun nyawa sudah melayang. Di Nigeria, seorang pendeta Kristen hampir dibakar hidup-hidup karena video deepfake dirinya menyebar seruan kebencian terhadap umat Islam.

Teknologi ini digunakan bukan hanya oleh penjahat dunia maya, tapi juga oleh pihak-pihak yang ingin mengacaukan stabilitas sosial. Di Timur Tengah, misalnya, akun-akun anonim menyebarkan video palsu ulama Sunni yang tampak menghina Syiah, dan sebaliknya.

Ini bukan hanya soal fitnah personal, tapi fitnah sektarian-dan dalam sejarah Islam, konflik semacam ini tak pernah selesai dalam waktu singkat.

Indonesia bukan kebal. Kita negara dengan keberagaman mazhab, aliran, dan tradisi keagamaan yang hidup berdampingan namun rapuh. Polarisasi sudah tajam. Sentimen keagamaan mudah tersulut.

Bayangkan jika beredar video seorang kiai Nahdlatul Ulama yang seolah mengafirkan golongan lain. Atau ustaz Muhammadiyah yang tampak memuji khilafah. Reaksi bisa tak terkontrol.

Dalam sebuah kasus yang nyaris tak terdengar publik, tahun lalu seorang guru ngaji di Jawa Barat harus diungsikan karena video dirinya beredar dengan wajahnya tampak sedang menghina Alquran. Setelah forensik digital dilakukan, hasilnya: palsu. Tapi pesantren tempat ia mengajar sudah dilempari batu. Reputasinya hancur.

Deepfake bukan hanya menipu mata, tapi menghancurkan kepercayaan. Ia merusak fondasi dasar masyarakat: bahwa kebenaran bisa dibuktikan, bahwa perkataan bisa dipertanggungjawabkan. Ketika wajah-wajah suci bisa dipinjam oleh mesin untuk menyampaikan pesan kebencian, bagaimana kita bisa membedakan antara iman dan manipulasi?

Banyak kelompok radikal sudah menyadari ini. Mereka tak lagi merekrut lewat debat atau ceramah. Mereka hanya butuh satu video palsu yang seolah-olah berasal dari "ulama moderat" yang "akhirnya sadar" bahwa jihad kekerasan dibenarkan. Narasi palsu macam ini lebih mudah menyebar ketimbang klarifikasi resmi. Apalagi algoritma media sosial memang lebih suka yang sensasional ketimbang yang rasional.

Bahkan para pemimpin agama kini tak lagi aman. Mereka bisa dijebak oleh citra mereka sendiri. Suara mereka bisa dimiripkan. Wajah mereka bisa direkayasa untuk mendukung agenda yang tak pernah mereka percayai. Jika hal ini terus terjadi, krisis kepercayaan akan meluas. Umat akan ragu pada siapa pun. Dan ketika kepercayaan mati, yang tersisa hanya prasangka dan kekerasan.

Menurut laporan Sumsub Deepfake Report 2024, peningkatan kasus deepfake secara global mencapai 900% dalam dua tahun terakhir. Kawasan Asia Tenggara-termasuk Indonesia-masuk dalam radar merah.

Pada Maret 2024, di Tiongkok, seorang pria ditipu sebesar 4 juta yuan melalui video deepfake yang menampilkan wajah atasan perusahaannya dalam panggilan video. Di Eropa, kampanye kebencian terhadap komunitas Muslim dilakukan dengan menyebar video palsu tokoh agama yang tampak mengajak umatnya menolak imigran.

Sayangnya, regulasi kita belum siap. UU ITE belum menyentuh aspek spesifik dari video manipulatif berbasis AI. Komunitas agama juga belum punya mekanisme tanggap darurat terhadap ancaman semacam ini. Klarifikasi manual sering kali telat. Apalagi jika umat sudah terbakar amarah.

Yang bisa dilakukan sekarang adalah membangun sistem imun sosial-dengan literasi digital yang kuat, sikap kritis dalam menerima informasi visual, dan kebiasaan tabayyun yang benar-benar diterapkan, bukan sekadar jargon. Para pemuka agama harus mulai berbicara soal ini. Jangan menunggu wajah mereka dipalsukan untuk berkata bahwa ini berbahaya.

Deepfake bukan lagi permainan teknologi. Ia adalah senjata ideologis. Ia bisa memecah belah umat. Ia bisa memalsukan ajaran. Ia bisa menciptakan nabi-nabi buatan yang menebar kebencian.

Dan jika kita tidak waspada, barangkali kelak kita akan menyembah kebohongan yang kita kira sebagai kebenaran.

Muhammad Aswar. Dosen STAIN Pandanaran dan peneliti Arabi Institute.

(rdp/imk)