X hingga Instagram Blokir Pencarian Nama Taylor Swift, Akibat Beredarnya Foto Porno Hasil Deepfake

Foto-foto palsu ini segera menyebar di X, Facebook, Instagram, dan Reddit. X dan Reddit mulai menghapus unggahan tersebut pada Kamis pagi, 25 Januari 2024.

Seorang sumber yang dekat dengan Swift mengatakan pada Kamis, "Apakah tindakan hukum akan diambil atau tidak sedang diputuskan, tapi ada satu hal yang jelas: gambar-gambar palsu yang dihasilkan AI ini sangat kasar, menyinggung, eksploitatif, dan dilakukan tanpa persetujuan Taylor dan/atau pengetahuannya."

"Akun X yang mengunggahnya sudah tidak ada lagi. Sangat mengejutkan bahwa platform media sosial membiarkan mereka melakukan hal tersebut sejak awal," imbuhnya. "Gambar-gambar ini harus dihapus dari mana pun dan tidak boleh dipromosikan siapa pun."

"Keluarga dan teman-teman Taylor sangat marah, begitu pula para penggemarnya ... Pintunya harus ditutup. Perundang-undangan perlu disahkan untuk mencegah hal ini dan undang-undang harus diberlakukan," tegasnya. 

Sayangnya, apa yang dialami Taylor Swift bukanlah skema baru. Pornografi yang dihasilkan AI telah menargetkan wanita dan anak-anak di seluruh dunia selama bertahun-tahun, lapor CNN.

Dengan meningkatnya akses terhadap teknologi AI, para ahli mengatakan, hal ini diprediksi akan jadi jauh lebih buruk bagi semua orang, mulai dari anak-anak usia sekolah hingga perempuan dewasa. Beberapa siswa sekolah menengah di seluruh dunia, dari New Jersey hingga Spanyol, telah melaporkan wajah mereka dimanipulasi AI dan dibagikan secara online oleh teman sekelasnya.

Sementara itu, seorang streamer perempuan terkenal di Twitch menemukan fotonya digunakan dalam video porno palsu dan eksplisit yang menyebar dengan cepat ke seluruh komunitas gim. "Bukan hanya selebritas yang (ditargetkan)," kata Danielle Citron, seorang profesor di Fakultas Hukum Universitas Virginia.

"Mereka adalah manusia biasa. Mereka adalah perawat, mahasiswa seni dan hukum, guru, serta jurnalis. Kami telah mendengar cerita tentang bagaimana hal ini berdampak pada siswa sekolah menengah dan orang-orang di militer. Ini memengaruhi semua orang."

Meski praktik ini bukanlah hal baru, Taylor Swift disebut "dapat membawa lebih banyak perhatian pada isu-isu yang berkembang seputar citra yang dihasilkan AI." Swifties, sebutan penggemarnya, telah mengungkap kemarahan di media sosial minggu ini, membawa masalah ini ke permukaan.

Pada 2022, insiden terkait Ticketmaster menjelang konser Eras Tour Swift telah memicu kemarahan online, yang mengarah pada beberapa upaya legislatif untuk menindak kebijakan tiket yang tidak ramah konsumen.

"Ini momen yang menarik karena Taylor Swift sangat dicintai," kata Citron. "Orang-orang mungkin lebih memperhatikan karena orang yang umumnya dikagumi adalah orang yang mempunyai kekuatan penggerak ... Ini adalah momen yang penuh perhitungan."

Walau peringatan keras telah beredar tentang bagaimana gambar dan video menyesatkan yang dihasilkan AI dapat digunakan untuk menggagalkan pemilihan presiden dan mempercepat upaya disinformasi, wacana mengenai bagaimana wajah perempuan telah dimanipulasi, tanpa persetujuan mereka, jadi video dan foto pornografi yang agresif masih sedikit dibahas.

Tren yang sedang berkembang adalah praktik AI yang setara dengan "revenge porn." Dalam perkembangannya, semakin sulit "menentukan apakah foto dan video tersebut asli," menurut outlet itu.

Namun yang berbeda kali ini, basis penggemar setia Swift bersatu menggunakan fitur pelaporan agar platform media sosial dapat menghapus unggahan tersebut secara efektif. "Begitu banyak orang yang terlibat dalam upaya ini, tapi sebagian besar korban tidak punya dukungan serupa," kata Citron.

Meski butuhkan waktu 17 jam bagi X untuk menghapus foto-foto tersebut, banyak gambar manipulasi yang tetap dibagikan di situs media sosial. Menurut Ben Decker, yang menjalankan Memetica, sebuah lembaga investigasi digital, perusahaan media sosial "tidak memiliki rencana efektif untuk memantau kontennya."

Anda dapat mengambil beberapa langkah kecil untuk membantu melindungi diri dari kasus penyalahgunaan foto. Pakar keamanan komputer David Jones, dari perusahaan layanan TI Firewall Technical, menyarankan agar orang-orang mempertimbangkan menjaga privasi profil dan hanya berbagi foto dengan orang-orang tepercaya.

"Anda tidak pernah tahu siapa yang dapat melihat profil Anda," katanya.

Namun, banyak pelaku "revenge porn" yang secara pribadi mengetahui target mereka, jadi membatasi apa yang dibagikan secara umum adalah cara yang paling aman.