Bayangkan Anda sedang menatap layar ponsel. Di sana, seorang pejabat publik menyampaikan pidato kontroversial yang membuat Anda berdecak tak percaya. Atau mungkin Anda melihat video seorang artis terkenal sedang melakukan hal yang memalukan. Atau — lebih dekat lagi — Anda menerima panggilan video dari atasan yang memerintahkan transfer dana perusahaan dengan segera.
Satu detik kemudian, Anda sadar: itu semua tidak pernah terjadi.
Selamat datang di era di mana mata dan telinga tidak lagi bisa dipercaya sepenuhnya. Era yang disebut para peneliti sebagai titik balik dalam sejarah komunikasi manusia — saat sintetis dan autentik bergumul dalam medan yang tak lagi bisa dibedakan oleh naluri biasa.
Tahun 2025 menjadi saksi bisu sebuah lompatan kuantum dalam teknologi sintetis visual. Dr. Siwei Lyu, profesor ilmu komputer di University at Buffalo, mencatat bahwa video deepfake kini telah melampaui ambang batas yang dulu dianggap mustahil: kualitas realisme yang cukup untuk membodohi pengamat awam secara konsisten, bahkan dalam skenario panggilan video beresolusi rendah sekalipun.
Data berbicara lebih keras dari sekadar kekhawatiran. Perusahaan keamanan siber DeepStrike memperkirakan jumlah konten deepfake daring meledak dari sekitar 500.000 pada tahun 2023 menjadi sekitar 8 juta pada tahun 2025 — pertumbuhan tahunan mendekati angka 900 persen. Untuk membayangkannya: setiap hari, lebih dari 20.000 konten sintetis baru lahir di ruang digital, menyebar lebih cepat dari kemampuan kita untuk memverifikasinya.
Bukan hanya kuantitas yang mengkhawatirkan. Kualitas teknisnya juga menjelma menjadi senjata presisi tinggi. Generasi model video terbaru — seperti yang dibahas dalam laporan teknis arXiv — mampu menghasilkan wajah yang stabil dan koheren tanpa kedipan atau distorsi struktural di sekitar mata dan rahang yang dulu menjadi petunjuk forensik andalan para ahli. Artinya, tanda-tanda kejahatan telah menghilang. Dan di situlah bahaya terbesar bersembunyi.
Di sisi kelam pisau ini, korbannya adalah manusia nyata dengan reputasi, martabat, dan rasa aman yang dirampas.
Pada November 2025, pengusaha terkenal Mohammad Jusuf Hamka menjadi korban deepfake yang begitu kejam. Wajahnya dan putrinya, Fitria Yusuf, direkayasa ke dalam adegan berpakaian tahanan, dikaitkan dengan tuduhan korupsi, suap, dan gratifikasi yang sama sekali tidak berdasar.
Kasus ini bukan sekadar iseng remaja. Pelaku menggunakan teknologi kecerdasan buatan untuk menggabungkan wajah korban ke dalam narasi kriminal yang dirancang untuk menghancurkan reputasi.
Polda Metro Jaya berhasil menangkap pelaku pada 27 November 2025, dan menjeratnya dengan Pasal 45A ayat (4) juncto Pasal 27A Undang-Undang ITE — sebuah preseden hukum penting bahwa ruang digital bukanlah zona bebas hukum.
Lebih mengerikan lagi, deepfake telah menjadi komoditas dalam ekonomi kriminal modern. Laporan Intelijen Ancaman iProov mengungkapkan bahwa serangan deepfake pertukaran wajah meningkat 300 persen, sementara serangan kamera virtual bawaan melonjak 2.665 persen dalam satu tahun.
Bahkan, terdapat lebih dari 115.000 kemungkinan kombinasi serangan yang tersebar di 127 alat pengganti wajah, 91 kamera virtual, dan 10 emulator yang tersedia di pasar gelap — sebuah ekosistem “crime-as-a-service” dengan hampir 24.000 pengguna aktif yang memperjualbelikan alat-alat serangan.
Dalam dunia korporasi, dampaknya sangat terukur. Beberapa peritel besar melaporkan menerima lebih dari 1.000 panggilan telepon penipuan berbasis AI per hari. Bayangkan seorang karyawan yang menerima instruksi transfer dana dari “CEO” melalui video call — dengan wajah dan suara yang persis sama, dengan intonasi yang autentik, dengan logat dan kebiasaan bicara yang sempurna.
Suara kloning telah melintasi ambang batas ketidakterbedaan. Hanya dengan beberapa detik cuplikan suara, algoritma dapat menghasilkan tiruan sempurna — lengkap dengan ritme, penekanan, emosi, jeda, hingga suara napas alami.
Ketika wartawan dan pembuat film dokumenter Anna Broinowski dari University of Sydney meneliti fenomena ini, ia melihat potensi yang kerap tenggelam dalam histeria publik. Dalam makalah peer-review yang diterbitkan di Media International Australia, ia berargumen bahwa generative AI dan deepfake sebenarnya sedang membentuk ulang industri media dan kreatif dari dalam.
“Deepfake adalah wajah publik dari transformasi industri dan budaya yang lebih besar,” ujar Broinowski. “AI generatif mengubah cara kita menciptakan, mengonsumsi, dan memercayai media layar. Tantangan sekaligus peluang sejatinya adalah memahami bagaimana kita dapat menggunakan alat ini secara bertanggung jawab sambil tetap melindungi kebebasan artistik dan kepercayaan publik”.
Di studio film, teknologi sintetis memungkinkan pembuatan adegan spektakuler dengan biaya yang jauh lebih rendah. Di ruang pendidikan, sejarah dapat “dihidupkan kembali” dengan tokoh-tokoh bersejarah yang berbicara langsung kepada siswa. Di ranah advokasi sosial, pesan-pesan penting dapat disampaikan dengan cara yang lebih personal dan membekas.
Di industri periklanan, personalisasi massal menjadi mungkin — konten yang disesuaikan secara unik untuk setiap konsumen tanpa perlu produksi manual satu per satu. Bahkan YouTube, platform yang sempat mematikan monetisasi untuk trailer konsep berbantuan AI, akhirnya mengembalikan pendapatan kepada kreator yang mencantumkan penafian jujur seperti “fan trailer,” “parody,” dan “concept trailer”.
Masalahnya, menurut laporan Deadline, penafian itu sering kali “menghilang” lagi di bulan-bulan berikutnya — menciptakan zona abu-abu yang sangat menguntungkan.
Menjinakkan Sisi Gelap: Sebuah Resolusi yang Harus Kolektif
Lantas, bagaimana kita menjinakkan pisau bermata dua ini tanpa mematahkan kedua sisi bilahnya? Jawabannya tidak sederhana, tetapi para ahli, peneliti, dan pembuat kebijakan telah mulai merumuskan peta jalan.
1. Pendekatan Hukum yang Tegas Tanpa Menghambat Inovasi
Indonesia telah mengambil langkah maju dengan memberlakukan Kitab Undang-Undang Hukum Pidana (KUHP) Nasional pada 2 Januari 2026. Pasal 172 KUHP mendefinisikan pornografi termasuk konten deepfake asusila, sementara Pasal 407 mengancam pidana penjara paling singkat 6 bulan hingga 10 tahun bagi mereka yang memproduksi, membuat, menyebarluaskan, atau menyiarkan konten pornografi.
Kementerian Komunikasi dan Digital (Kemkomdigi) bahkan mengancam akan memblokir platform X jika fitur Grok AI-nya terus disalahgunakan untuk menghasilkan konten deepfake asusila.
Tetapi hukum saja tidak cukup. Seperti yang diingatkan Broinowski dan rekan penelitinya, Fiona Martin, “Alih-alih terburu-buru melarang atau membenci AI, kita perlu memahami di mana ia meningkatkan kreativitas dan di mana ia mengancam integritas institusi budaya dan demokrasi kita”.
2. Teknologi Deteksi yang Berlari Mengejar Kecepatan
Di laboratorium – laboratorium penelitian, para ilmuwan sedang berlomba menciptakan alat deteksi yang mampu mengimbangi kecepatan generasi deepfake.
DYMAPIA — sebuah kerangka deteksi deepfake multidomain yang dikembangkan para peneliti — menggabungkan isyarat spasial, spektral, dan temporal untuk menangkap jejak manipulasi yang halus. Hasilnya mencengangkan: akurasi dan skor F1 melebihi 99 persen pada tolok ukur FF++, Celeb-DF, dan VDFD.
Dr. Siwei Lyu dan timnya di University at Buffalo mengembangkan Deepfake-o-Meter, sebuah alat forensik multimodal yang dirancang untuk institusi. Namun para peneliti lain dari laporan arXiv mengingatkan bahwa evaluator manusia masih secara substansial mengungguli semua alat deteksi otomatis yang ada.
Artinya: deteksi deepfake masih membutuhkan sentuhan manusia. Dan di situlah peran literasi publik menjadi begitu krusial.
3. Literasi Digital sebagai Perisai Kognitif
Geoffrey Hinton, “bapak AI” yang pandangannya begitu dihormati di dunia teknologi, mengingatkan dengan jujur: “Seiring dengan hal-hal yang luar biasa ini, datang pula hal-hal yang menakutkan. Dan saya tidak berpikir orang-orang cukup bekerja keras untuk memitigasi hal-hal yang menakutkan itu”.
Literasi digital di era deepfake bukan lagi sekadar “jangan percaya semua yang Anda baca di internet”. Ini tentang kebiasaan verifikasi ganda, tentang mempertanyakan realitas visual yang tampak meyakinkan, tentang membangun keraguan yang sehat tanpa jatuh ke dalam skeptisisme beracun.
4. Pendekatan “Benefits-Plus-Risks” untuk Masa Depan
Yang mungkin paling visioner adalah proposal Broinowski dan Martin: sebuah kerangka manfaat-plus-risiko yang memandu kebijakan publik. Mereka menyerukan pelabelan yang jelas untuk media sintetis, perlindungan hak cipta dan kebebasan berekspresi bagi kreator, serta pedoman etis yang dipimpin industri — yang mendukung inovasi tanpa menggerus kepercayaan publik.
Singkatnya: jangan bunuh potensi kreatif hanya karena takut pada penyalahgunaan. Sebaliknya, bangun sistem yang memungkinkan kebaikan berkembang sambil memasang pagar pengaman di tepi jurang.
Ketika seorang senator AS, Bernie Sanders, menyuarakan kekhawatirannya tentang motif para miliarder teknologi yang menginvestasikan miliaran dolar ke dalam AI, ia bertanya dengan lugas: “Apa motif mereka? Apakah Anda berpikir mereka begadang di malam hari mengkhawatirkan rakyat pekerja dan bagaimana teknologi ini akan berdampak pada mereka? Mereka tidak. Mereka melakukannya untuk menjadi lebih kaya dan lebih berkuasa”.
Namun pesimisme Sanders tidak harus menjadi satu-satunya narasi. Sejarah teknologi selalu demikian: pisau, api, mesin uap, internet — semuanya bermata dua. Yang membedakan bukanlah alatnya, melainkan tangan yang memegangnya dan sistem yang mengelilinginya.
Deepfake telah tiba sebagai ujian peradaban digital kita. Di satu sisi ia mengancam fondasi kebenaran yang telah kita bangun berabad-abad. Di sisi lain ia membuka gerbang ekspresi kreatif yang sebelumnya tak terjangkau.
Maka cara menjinakkannya bukanlah dengan mematahkan pisau itu, melainkan dengan mengasah etika, membangun deteksi, menegakkan hukum, dan — yang terpenting — tidak pernah berhenti memercayai bahwa kebenaran itu berharga untuk diperjuangkan.
Karena pada akhirnya, seperti yang dikatakan para peneliti dari University of Sydney: GenAI tidak akan pergi. Tetapi dengan pengaturan kebijakan yang tepat dan keterlibatan publik, kita dapat membentuknya dengan cara yang melindungi kebenaran, mendukung kreativitas, dan mencerminkan nilai-nilai demokrasi dan budaya kita. Pisau itu tetap di tangan kita. Mari kita gunakan dengan bijak.
Sharing Ide: Hery Arianto
(Pemerhati Sosial & Media)
