VISI | Ketika Anda Tak Bisa Mempercayai Mata Anda Lagi

Oleh Scarlett Seow Jia Wen (360info)

• Universitas Monash Malaysia

INI DIMULAI pada tahun 2017 ketika pengguna Reddit mengunggah video seksual eksplisit yang menggunakan wajah selebriti wanita yang ditumpangkan pada tubuh aktris film dewasa. Munculnya video-video mengganggu tersebut adalah hasil dari algoritma pembelajaran mendalam yang canggih yang dikenal sebagai "deepfake".

Hal ini mengirimkan gelombang kejutan ke seluruh dunia, mengancam privasi dan keamanan masyarakat. Dalam setahun, Reddit dan platform online lainnya melarang video porno deepfake ini, tetapi masalahnya tidak berhenti di situ.

Teknik canggih ini memungkinkan penggantian kemiripan seseorang dengan kemiripan lainnya. Beberapa contoh populer mencakup penerapan filter untuk mengubah atribut wajah; bertukar wajah dengan selebriti; menyampaikan ekspresi wajah; atau membuat selfie baru berdasarkan foto asli.

Penggunaan deepfake yang jahat berpotensi menyebabkan kerugian psikologis yang parah dan merusak reputasi, menjadikannya sebagai alat yang ampuh yang mampu memicu kepanikan sosial dan mengancam perdamaian dunia.

Pengembangan detektor deepfake canggih yang dilatih untuk mengidentifikasi fitur-fitur berbeda yang membedakan gambar palsu dari gambar asli sangatlah penting.

Pendekatan tradisional berfokus pada analisis ketidakkonsistenan dalam distribusi piksel, yang menyebabkan artefak biometrik dan tekstur wajah yang tidak biasa, seperti tekstur kulit yang tidak alami, bayangan yang aneh, dan penempatan atribut wajah yang tidak normal, yang berfungsi sebagai indikator utama untuk deteksi deepfake. Namun, evolusi teknologi pembelajaran mendalam, seperti model difusi, transformator, dan Generative Adversarial Networks (GANs), telah membuat pendekatan konvensional menjadi rentan. GAN adalah teknik terdepan dalam generasi deepfake. Ini terdiri dari dua model: generator yang menghasilkan gambar dan diskriminator yang mencoba membedakan apakah gambar tersebut asli atau palsu.

Awalnya, gambar deepfake mungkin menunjukkan kelemahan nyata dalam distribusi piksel. Namun, berdasarkan umpan balik dari diskriminator, generator belajar dari keberhasilan dan kegagalannya untuk menyempurnakan tekniknya. Seiring waktu, melalui pelatihan berkelanjutan, generator menjadi semakin mampu menghasilkan gambar yang tidak dapat dibedakan.