Deepfake AI: Akar Media yang Terdistorsi dan Bagaimana Pengaruhnya bagi Kita

Oleh Health Heroes
16 Oktober 2026

Penulis: Nina Khrisnaiah

Bagaimana kita menemukan kebenaran dan otonomi di tengah masyarakat yang begitu tenggelam dalam teknologi? Seiring pesatnya perkembangan AI dan meningkatnya diskusi di tingkat global tentang bagaimana cara meregulasinya dengan aman sebelum terlambat, muncul banyak pertanyaan tentang dampak teknologi ini bagi kehidupan kita. Salah satunya adalah pembahasan tentang deepfake AI.

Deepfake AI adalah jenis media, seperti video, audio, atau gambar, yang memanfaatkan kecerdasan buatan deep learning agar tampak realistis. Namun, ketika kita memahami deepfake itu berarti melihat sesuatu yang lebih jauh dari sekadar definisinya.

Sejarah Deepfake

Kata “deepfake” pertama kali muncul pada 2017 pada saat pengguna Reddit memanfaatkan algoritma AI yang sudah ada untuk membuat pornografi bergambar selebriti yang tampak realistis. Meski begitu, konsep dari deepfake sendiri sudah menyebar di internet sejak 1990-an, ketika para peneliti mulai memanfaatkan Computer-Generated Imagery (CGI) untuk membuat gambar manusia yang realistis.

Pada 2014, Ian Goodfellow, ilmuwan komputer asal Amerika, memperkenalkan Generative Adversarial Networks (GAN) kepada dunia. GAN adalah jenis machine learning yang melibatkan jaringan saraf tiruan, yaitu sistem komputer yang mencari pola dan meniru aspek-aspek otak manusia.

Jaringan-jaringan ini terdiri atas “generator” dan “diskriminator” yang saling bersaing untuk menciptakan media sintetis yang realistis. Intinya, generator membuat media palsu, sedangkan diskriminator bertugas membedakan data asli dan palsu, sehingga mendorong generator menghasilkan media yang semakin realistis.

Berpindah ke tahun 2017, masyarakat umum mulai mempelajari teknologi deepfake lebih dalam dengan memanfaatkan sistem sumber terbuka, dari DeepFaceLab hingga Reface, untuk memanipulasi gambar dan video populer demi hiburan semata.

Terlebih lagi dengan dirilisnya Stable Diffusion pada Agustus 2022, yang memungkinkan pengguna dengan mudah menghasilkan deepfake gambar berkualitas tinggi, ditambah dengan akses publik resmi ke ChatGPT milik OpenAI, AI generatif menjadi alat yang umum.

Merespon hal itu, World Economic Forum (WEF) menegaskan untuk meningkatkan perhatian global terhadap deepfake dan ancaman teknologi ini bagi lanskap politik dan sosial, dengan menyebut deepfake dan misinformasi sebagai isu utama tahun 2024.

Cara Kerja Jaringan

Kita sering mendengar tentang deepfake lama setelah dibuat, lewat berita utama yang mencolok tentang dampak manipulasi media tersebut. Namun, sebagai pengguna aktif alat digital terlibat aktif dalam percakapan literasi digital berarti bertanya, “Bagaimana sebenarnya deepfake AI bekerja?”

Proses pembuatan deepfake terdiri atas lima langkah: pengumpulan data, pengorganisasian data, pelatihan model, pembuatan, dan penyempurnaan.

Pada langkah pertama, sistem AI mengumpulkan materi sumber dan informasi lain tentang target dari media sosial atau ruang digital lainnya. Selanjutnya, teknologi tersebut membersihkan data, misalnya mengambil wajah dari video dan memisahkan klip audio tertentu. Kedua langkah awal ini melibatkan convolutional neural networks (CNN), yaitu algoritma deep learning yang memilah data.

Pada langkah ketiga dan keempat, jaringan saraf tiruan mempelajari data terorganisasi yang disediakan algoritma deep learning untuk mereplikasi media tersebut secara sintetis. Dari sana, model terus berupaya meningkatkan akurasi dan realisme deepfake yang dihasilkannya. GAN, yang melibatkan jaringan saraf “generator” dan “diskriminator”, biasanya menjadi fondasi proses pembuatan deepfake (Reality Defender, 2025).

Menelusuri Deepfake dalam Budaya Kita

Politik

Deepfake politik AI bukanlah hal yang langka, dimulai dari tayangan deepfake yang menampilkan video Mantan Presiden Joko Widodo seolah-olah fasih berbahasa Arab dan Mandarin pada masa pemilihan presiden tahun 2024 dan video manipulasi yang memperlihatkan Menteri Keuangan Sri Mulyani yang seolah-olah menyebut guru sebagai beban negara.

Hadirnya Deepfake dalam ranah politik telah menyebabkan kebingungan dan ketidakpastian di tengah masyarakat. Dalam survei Luminate dan Ipsos 2025 tentang deepfake dan demokrasi, 75% responden percaya bahwa konten buatan AI dapat memengaruhi pandangan politik publik, 63% merasa konten tersebut dapat memengaruhi pandangan politik mereka. Adapun sebanyak 42% dari 33% responden yang yakin pandangan politiknya tidak akan terpengaruh mengaku kesulitan ketika membedakan konten asli dan konten AI (SWA, 2025).

Terdapat kompleksitas saat deepfake AI ke mulai masuk ke dalam media sosial, termasuk aksesibilitas platform yang instan dan beban kognitif berlebih yang melekat pada desain dari deepfake AI. Karena platform seperti TikTok dan Instagram memiliki fitur seperti infinite scroll, yang membanjiri pengguna dan mendorong kita bertahan di platform, kemampuan kita untuk berpikir mendalam tentang konten yang kita lihat menurun. Akibatnya, kita mungkin lebih sulit mengenali konten buatan AI dan menimbulkan misinformasi dalam penyebaran konten

Meski begitu, keberadaan deepfake AI memiliki dampak yang jauh lebih kompleks bagi kehidupan kita, salah satunya adalah liar’s dividend (dividen pembohong). Fenomena ini menggambarkan gagasan bahwa seiring dengan semakin maraknya deepfake dan meningkatnya ketidakpercayaan publik terhadap informasi, para politisi maupun tokoh publik dapat mengeklaim bahwa konten yang sebenarnya asli adalah palsu, demi menghindari tanggung jawab (Universitas Medan Area, 2026).

Liar’s dividend ini sangat berkaitan dengan kondisi sinisme epistemik, yakni kondisi psikologis berupa penerimaan secara pasrah dan kelelahan mental akibat telah hilangnya kebenaran objektif di dunia digital dan hal ini sangat bisa disebabkan oleh maraknya konten AI yang menyebar di sosial media.

Konten Seksual Sintetis

Merambah ke ranah kesehatan mental, konten seksual sintetis (media bermuatan hal seksual yang dibuat dengan bantuan AI) melonjak di Indonesia dalam beberapa tahun terakhir, menargetkan perempuan muda dan anak perempuan sebagai korban dan memberikan dampak mendalam pada mereka.

Sebagai contoh seperti yang terjadi di Semarang pada 2025 lalu, Polda Jawa Tengah menemukan seorang mahasiswa yang membuat lebih dari 1.100 deepfake eksplisit menggunakan wajah teman-teman perempuan sekelas dan alumni. Serupa dengan itu, pada Mei 2026, seorang siswa SMA di Pemalang mengedit dan menyebarkan gambar seksual belasan siswi di sekolahnya.

Kehilangan otonomi akan dirinya sendiri adalah hal yang menyakitkan. Sering kali, karena rasa malu akibat menjadi korban deepfake eksplisit secara seksual, anak muda tidak mau berhadapan dengan pelaku, menempuh jalur hukum, dan mencari dukungan.

Baca juga: Perempuan Berhak Aman di Internet

Merebut Kembali Kendali Diri

Indonesia adalah salah satu negara dengan tingkat keterlibatan digital tertinggi, dengan lebih dari 220 hingga 230 juta orang aktif secara online. Kita perlu terus menyuarakan kebijakan-kebijakan yang meminimalkan dampak buruk deepfake. Bukan berarti meninggalkan teknologi, namun kita perlu untuk terus berupaya memahami teknologi yang membentuk kita serta cara kita terhubung dengan dunia nyata.

Namun, kita tidak perlu hidup dalam ketakutan terus menerus. Kita dapat memilih untuk menilai dengan penuh rasa ingin tahu apa yang kita temui serta beragam konsekuensi yang muncul dari hadirnya teknologi.

Mari Berefleksi!

Sebelum pergi, kami ingin meninggalkan beberapa pertanyaan untuk direnungkan! Sobat dapat mengajak seorang teman untuk berdiskusi, mengenai:

Bagaimana teman-teman mendefinisikan “kebenaran”? Menurutmu, mungkinkah definisi kebenaranmu itu ada di dunia digital saat ini?
Apa peran media sosial dalam hidupmu? Apakah deepfake mempersulit peran media sosial tersebut? Jika ya, bagaimana?
Menurut Sobat, apakah deepfake adalah sesuatu yang baik atau buruk? Mengapa? Bagaimana nilai-nilai budaya dan sosial yang Sobat anut atau membentuk pemahamanmu tentang deepfake?
Adakah konsep terkait deepfake AI yang ingin Sobat dalami lebih jauh?

Referensi

Liswati, A. L. & Taun, T. (2025, November 27). Analisis Yuridis terhadap Pertanggungjawaban Pidana Pelaku Pelecehan Seksual Berbasis Al (Deepfake Pornografi) di Media Sosial. Jurnal Hukum, Administrasi Publik dan Negara, 2(6), 162-176. https://doi.org/10.62383/hukum.v2i6.742