Pria di Korea Selatan Dipenjara Gara-Gara Buat Gambar Seksual Anak-Anak Pakai AI

Contoh lainnya, pada awal September 2023, polisi di Spanyol melancarkan penyelidikan setelah gambar gadis di bawah umur diubah dengan AI untuk melepaskan pakaian mereka dan dikirim ke seluruh kota. Kasus lainnya, ketika seorang anak laki-laki mencoba memeras salah satu gadis dengan menggunakan gambar telanjang gadis tersebut yang telah dimanipulasi, kata ibu gadis tersebut kepada saluran televisi Canal Extremadura.

Selama bertahun-tahun, deepfake, yaitu video palsu yang sangat meyakinkan yang dibuat menggunakan AI, telah digunakan untuk menampilkan wajah perempuan dalam video pornografi yang agresif, tanpa persetujuan mereka. Video-video tersebut sering kali terlihat sangat nyata sehingga sulit bagi korban perempuan untuk menyangkal bahwa itu bukanlah video sebenarnya.

Masalah ini menjadi perhatian publik yang lebih luas pada Februari 2023 ketika terungkap bahwa seorang streamer video game pria terkenal telah mengakses video deepfake dari beberapa perempuan rekan streaming-nya. Platform streaming, Twitch, menanggapi kontroversi tersebut dengan memperketat kebijakannya, menyebut video seksual deepfake tersebut melanggar secara pribadi dan sangat menjengkelkan.

Dalam sebuah iklan Facebook, seorang perempuan dengan wajah yang mirip dengan wajah aktor Emma Watson tersenyum malu-malu. Ia membungkuk di depan kamera dan tampaknya memulai tindakan seksual.

Dikutip dari NBC News, Jumat, 10 Maret 2023, tapi perempuan itu bukanlah Emma Watson, bintang "Harry Potter". Iklan itu adalah bagian dari kampanye besar-besaran minggu ini untuk aplikasi deepfake, yang memungkinkan pengguna menukar wajah apa pun dengan video apa pun yang mereka pilih.

Deepfake adalah konten wajah atau suara diubah atau dimanipulasi. Biasanya, kreator deepfake membuat video di mana selebritas dibuat seolah-olah mereka rela tampil di dalamnya, padahal sebenarnya tidak.

Teknologi ini semakin banyak digunakan untuk membuat pornografi nonkonsensual yang menampilkan wajah selebritas, influencer, atau siapa pun, termasuk anak-anak. Kampanye iklan di Meta mengacu pada fakta bahwa teknologi yang dulu canggih ini telah menyebar dengan cepat ke aplikasi konsumen yang tersedia dan diiklankan di bagian utama internet.

Banyak platform yang melarang konten deepfake yang manipulatif dan berbahaya. Pada awal pekan ini, aplikasi untuk membuat video "DeepFake FaceSwap" meluncurkan lebih dari 230 iklan di layanan Meta, termasuk Facebook, Instagram, dan Messenger, menurut ulasan perpustakaan iklan Meta.

Beberapa iklan menunjukkan apa yang tampak seperti permulaan video porno dengan suara terkenal dari lagu intro platform porno Pornhub. Beberapa detik kemudian, wajah para perempuan ditukar dengan wajah aktor terkenal.

Dari iklan Meta, 127 menampilkan kemiripan Emma Watson. 74 lainnya menampilkan wajah aktor Scarlett Johansson yang ditukar dengan wajah perempuan dalam video provokatif serupa.

"Ganti wajah dengan siapa pun," bunyi keterangan di 80 iklan itu. "Nikmati diri Anda dengan teknologi AI swap face."

Pada Selasa, setelah NBC News meminta komentar dari Meta, semua iklan aplikasi dihapus dari layanan Meta. Meskipun tidak ada tindakan seksual yang ditampilkan dalam video tersebut, sifat sugestifnya menggambarkan bagaimana aplikasi berpotensi digunakan untuk menghasilkan konten seksual palsu.

Aplikasi ini memungkinkan pengguna mengunggah video untuk dimanipulasi dan juga menyertakan lusinan template video, banyak di antaranya tampaknya diambil dari TikTok dan platform media sosial serupa. Kategori preset termasuk Fashion", "Bride", "For Men", "For Women", dan "TikTok", sedangkan kategori dengan opsi terbanyak disebut "Hot".

Ini menampilkan video perempuandan pria berpakaian minim menari dan berpose. Setelah memilih template video atau mengunggahnya sendiri, pengguna dapat memasukkan satu foto wajah siapa pun, dan menerima versi video yang bertukar wajah dalam hitungan detik.