Celah Hukum Tak Membantu Korban Pelecehan Seksual dalam Bentuk Deepfake

Tanggung jawab juga harus diberikan kepada pengembang teknologi, platform digital, dan situs web yang menghosting dan/atau membuat alat untuk mengembangkan konten deepfake guna memastikan keamanan dan mengutamakan kepentingan manusia.

Di luar penyalahgunaan deepfake yang bersifat seksual, terdapat kebutuhan mendesak akan pedoman seputar pembuatan konten deepfake yang bertanggung jawab – baik untuk menghindari penyebaran disinformasi atau untuk menghindari bias gender atau ras, seperti yang terjadi pada citra anggota parlemen Victoria, Georgie Purcell, yang diubah secara seksual.

Perdana Menteri Italia Giorgia Meloni menuntut ganti rugi sebesar EU€100.000 dari dua pria setelah gambar pornografi palsu yang menggunakan wajahnya diedarkan secara online. Menurut pengacara Meloni, uang tersebut bersifat "simbolis" dan tuntutan kompensasi dimaksudkan untuk memberdayakan perempuan agar tidak takut mengajukan tuntutan. Seperti yang telah diidentifikasi di tempat lain, masalah utama manipulasi gambar AI adalah bahwa alat-alat ini bergantung pada norma-norma sosial dan informasi bias yang dihasilkan oleh masyarakat manusia.

Ketika penggunaan AI dan manipulasi gambar digital menjadi lebih umum, seperti foto kontroversial yang diedit oleh keluarga kerajaan Inggris, harus ada pedoman etika tentang bagaimana konten deepfake dibuat, dibagikan, dan didiskusikan.

Terdapat preseden hukum yang sudah lama ada di banyak negara dalam mengatur ekspresi yang menipu dan merugikan yang dianggap benar oleh negara lain. Pedoman dan peraturan yang berkaitan dengan pembuatan konten deepfake yang etis dan bertanggung jawab dapat berada dalam kerangka kerja yang sama. Mengingat sifat tantangan ini yang bersifat transnasional, penting untuk memfasilitasi tindakan, kolaborasi, dan respons global, yang fokus pada pencegahan dampak buruk dan memastikan pengembangan konten yang bertanggung jawab dan etis.

Pendekatan global sangat penting jika masyarakat benar-benar ingin mengatasi dan mencegah dampak buruk penyalahgunaan deepfake yang bersifat seksual.***