Belakangan ini semakin banyak foto dan video yang dimanipulasi menggunakan kecerdasan buatan (AI) di media sosial, dan konten seperti itu sering merugikan pihak tertentu. Teknik pembuatan materi baru yang tampak nyata dan meyakinkan tersebut disebut deepfake.

Secara sederhana, deepfake adalah teknik manipulasi digital yang menggunakan kecerdasan buatan untuk mengubah atau meniru wajah, suara, maupun gerakan seseorang dalam foto atau video, sehingga tampak nyata meskipun sebenarnya palsu.

Fenomena konten palsu yang dihasilkan oleh kecerdasan buatan kini menjadi hal yang meresahkan publik, terutama bagi pengguna aktif media sosial.

Apa Itu Deepfake?

Istilah deepfake berasal dari gabungan dua kata, yaitu deep learning dan fake. Istilah ini mengacu pada teknik pembuatan konten palsu yang memanfaatkan kecerdasan buatan serta teknologi deep learning.

Teknologi deepfake pertama kali muncul pada tahun 2017 dan sejak saat itu menarik perhatian global. Pada awal kemunculannya, teknologi ini digunakan untuk mengganti wajah aktor dalam film ilegal. Namun, seiring perkembangannya, deepfake berevolusi menjadi ancaman serius terhadap aspek keamanan dan kepercayaan publik.

Cara Kerja Deepfake

Deepfake menjadi perhatian utama di tengah maraknya manipulasi media yang semakin mengkhawatirkan. Teknologi ini beroperasi dengan memanfaatkan algoritma deep learning yang mampu mempelajari karakteristik wajah seseorang, termasuk ekspresi dan sudut pandang, untuk menghasilkan video palsu yang tampak asli. Dalam proses pembuatannya, terdapat dua metode utama yang digunakan, yaitu:

1.  Deep Neural Networks (DNN)
   DNN adalah jaringan saraf buatan yang terdiri atas berbagai lapisan kompleks dan menjadi dasar utama dalam pengembangan teknologi deepfake. Konsep pembuatannya memanfaatkan metode machine learning yang memungkinkan penggabungan wajah seseorang ke dalam video lain secara realistis.

   Proses ini diawali dengan pengumpulan data wajah dari individu target serta video sumber yang akan dimodifikasi. Melalui proses pelatihan dan iterasi yang berlangsung cukup lama, algoritma deep learning kemudian melatih model neural network untuk meniru ekspresi wajah, gerakan bibir, serta pergerakan mata dengan tingkat akurasi tinggi.

2. Generative Adversarial Networks (GANs)
   Metode ini melibatkan dua komponen utama, yaitu generator dan discriminator, yang memberikan kontribusi besar terhadap perkembangan teknologi deepfake. Generator berfungsi menghasilkan data baru yang menyerupai data asli, sedangkan discriminator bertugas membedakan antara data autentik dan data palsu.

   Dengan memanfaatkan video atau audio asli sebagai data pelatihan, GANs mampu membangun model yang dapat menghasilkan konten yang tampak maupun terdengar seperti berasal dari individu lain. Kemampuan ini berpotensi membuka peluang besar bagi penyebaran informasi palsu serta tindakan penyalahgunaan yang dapat menimbulkan dampak sosial negatif.

Teknik Pembuatan Deepfake

Di balik kecanggihan deepfake, ada berbagai teknik yang menjadi dasarnya. Berikut beberapa metode utama yang digunakan dalam pembuatannya.

1. Source Video Deepfakes
   Teknik ini berhubungan dengan proses penyelarasan gerakan tubuh dan ekspresi wajah dalam sebuah video. Prosesnya melibatkan penggunaan algoritma deep learning untuk mendeteksi, menganalisis, serta mereproduksi wajah dan gerakan tubuh dari satu video ke video lainnya.

2. Audio Deepfakes
   Teknik ini berfokus pada manipulasi suara dengan memanfaatkan teknologi deep learning. Melalui penggunaan algoritma neural network, sistem dapat merekam dan meniru karakteristik suara seseorang dengan tingkat presisi tinggi, termasuk pola vokal, intonasi, serta nuansa suara, sehingga terdengar sangat mirip dengan suara aslinya.

3. Lip Syncing
   Teknik ini menitikberatkan pada sinkronisasi antara audio dan gerakan bibir dalam video. Tujuan utamanya adalah memastikan gerakan bibir selaras dengan suara yang dihasilkan. Dengan penerapan model Long Short-Term Memory (LSTM), proses lip sync dapat dilakukan dengan tingkat akurasi yang tinggi.

Bahaya Deepfake Di Kehidupan Nyata

Teknologi ini berpotensi menimbulkan berbagai masalah apabila disalahgunakan, seperti berikut ini.

1. Keamanan yang rentan
   Dalam aspek keamanan, teknologi deepfake dapat berfungsi sebagai alat berbahaya untuk menyebarkan informasi palsu atau konten video hasil manipulasi. Dampaknya bisa sangat serius, mulai dari merusak reputasi individu hingga dimanfaatkan untuk tindak kejahatan seperti penipuan maupun pemerasan.
2. Keamanan data pribadi terancam
   Dalam konteks privasi, deepfake menjadi ancaman nyata. Dengan kemampuannya menciptakan video atau audio palsu yang seolah menampilkan seseorang dalam situasi tertentu, teknologi ini dapat merusak reputasi, menimbulkan kerugian pribadi maupun profesional, serta membuka peluang bagi tindakan manipulatif dan pelecehan.
3. Pengaruh pada nama baik dan hak cipta
   Deepfake berpotensi merusak citra dan reputasi individu melalui penyebaran konten yang menampilkan seseorang dalam situasi atau tindakan yang sebenarnya tidak pernah dilakukan. Hal ini dapat menimbulkan dampak serius terhadap pandangan publik terhadap individu tersebut. Selain itu, penggunaan materi asli tanpa izin dalam pembuatan deepfake juga menimbulkan permasalahan hukum yang rumit terkait hak cipta.
4. Ancaman keamanan nasional dan intelijen
   Deepfake digunakan untuk menabur kebingungan, menipu sistem pengenalan atau menyamarkan operasi intelijen. Sehingga akan menimbulkan kesalahan diplomatik, gangguan komando militer, kompromi operasi.
5. Penyebaran disinformasi dan manipulasi politik
   Video atau audio palsu menampilkan tokoh publik (politisi, kandidat) melakukan atau mengucapkan sesuatu yang tidak pernah terjadi. Hal ini tentunya akan mengubah opini publik, mempengaruhi pemilu, memicu kerusuhan.

Upaya Mengenali Manipulasi Deepfake

Sebuah penelitian dari Massachusetts Institute of Technology (MIT) mengungkap beberapa cara ampuh dalam mendeteksi video deepfake.

Berdasarkan laporan di situs resmi MIT, berikut tips yang direkomendasikan untuk membantu membedakan konten asli dan palsu.

1. Perhatikan Wajah
   Ciri utama deepfake tingkat tinggi adalah perubahan wajah. Perhatikan dengan saksama perbedaan mencolok pada wajah orang di dalam konten tersebut.
2.  Analisis Bagian Pipi dan Dahi
   Amati apakah kondisi kulit tampak sesuai dengan usia yang terlihat dari rambut dan mata. Jika ada ketidaksesuaian, hal itu bisa menjadi tanda adanya deepfake.
3. Perhatikan Mata dan Alis
   Deepfake kerap kali tidak mampu menampilkan efek yang realistis pada beberapa adegan, khususnya di bagian mata dan alis.
4. Observasi Kacamata
   Apakah terlihat pantulan cahaya yang berlebihan? Deepfake biasanya kesulitan meniru pencahayaan yang tampak alami.
5. Analisis Rambut di Wajah
   Deepfake bisa saja menambahkan atau menghilangkan kumis, cambang, maupun janggut, namun biasanya sulit menghasilkan perubahan rambut wajah yang tampak alami.
6. Amati Tahi Lalat di Wajah
   Keberadaan dan keaslian tahi lalat di wajah juga patut diperhatikan sebagai indikasi kemungkinan deepfake.
7. Perhatikan Kedipan
   Apakah pola kedipannya tampak wajar? Kedipan yang tidak alami bisa menjadi tanda adanya deepfake.
8. Analisis Ukuran dan Warna Bibir
   Apakah proporsi serta warna bibir selaras dengan bagian wajah lainnya? Ketidakcocokan bisa menjadi indikasi deepfake.

Cara Terhindar dari Deepfake

Peningkatan kewaspadaan dan kesadaran terhadap bahaya deepfake menjadi hal yang penting. Upaya untuk menghindarinya dapat dilakukan dengan membatasi unggahan foto pribadi di media sosial, tidak mudah mempercayai berita yang belum terverifikasi, hanya mengandalkan sumber informasi yang kredibel, serta memperluas pemahaman mengenai teknologi deepfake.

Regulasi dan Ketentuan Hukum tentang Deepfake di Indonesia

Pemerintah Indonesia telah menunjukkan komitmen serius dalam menghadapi penyebaran teknologi deepfake dengan mengesahkan dua undang-undang baru sebagai langkah penanggulangan, yaitu Undang-Undang (UU) Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi dan UU Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) Baru.

Berdasarkan Undang-Undang Perlindungan Data Pribadi (UU PDP), pasal 66 dan 68 secara eksplisit melarang pembuatan data pribadi palsu serta menetapkan ancaman pidana bagi pelanggarnya.

Selain itu, KUHP yang baru juga mencantumkan ketentuan khusus terkait deepfake dengan berbagai sanksi pidana. Konten deepfake yang mengandung unsur penghinaan atau pencemaran nama baik dapat dijerat melalui pasal 433, 434, 436, dan 441.

Sementara itu, penyebaran deepfake bermuatan kebencian atau permusuhan diatur dalam pasal 243, dan untuk konten yang bersifat pornografi dikenai sanksi sesuai pasal 407.

Penerapan KUHP Baru menandai adanya reformasi terhadap Undang-Undang Nomor 19 Tahun 2016 tentang Informasi dan Transaksi Elektronik (ITE). Berdasarkan ketentuan pasal 622 ayat (1) huruf r KUHP Baru, sejumlah pasal dalam UU ITE dinyatakan tidak lagi berlaku dan digantikan oleh ketentuan baru dalam KUHP, yang akan mulai diberlakukan tiga tahun setelah tanggal pengesahannya.

Kehadiran regulasi yang lebih ketat menjadi harapan baru bagi masyarakat Indonesia agar mendapat perlindungan lebih kuat dari maraknya teknologi deepfake yang semakin sulit dideteksi dan menimbulkan keresahan.