Waspada Pilah Informasi, Konten Deepfake di Media Sosial Dapat Timbulkan Kerugian

Lisa memberikan deskripsi mudah tentang bagaimana AI dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab, misalnya di Indonesia.

"Pada masa pemilihan presiden beberapa waktu lalu, kita melihat banyak konten deepfake yang beredar di media sosial, seperti video yang menampilkan sosok yang mirip dengan mantan presiden atau tokoh nasional lainnya," kata Lisa.

Ia menyebut, penggunaan deepfake di momen seperti pemilihan presiden bisa memengaruhi percakapan politik dan berpotensi menggiring opini publik. Ini memperlihatkan potensi AI dalam menciptakan konten yang meyakinkan tetapi palsu, serta kekuatan media sosial yang dapat memperluas jangkauan para pelaku kejahatan.

"Memadukan media sosial dan konten yang dihasilkan oleh AI memberikan penjahat siber sebuah sarana rekayasa sosial yang ampuh untuk memanipulasi orang-orang awam agar melakukan tindakan yang berisiko, misalnya mengeklik tautan berbahaya," kata Lisa.

Ia menambahkan, pada hari Media Sosial Sedunia yang jatuh pada 30 Juni 2024, pihaknya mengingatkan pentingnya melindungi diri sendiri dari konten-konten deepfake yang bisa menjerumuskan.

"Kita harus cermat dalam memilah-milah konten yang dikonsumsi, melakukan verifikasi sumber, dan mencermati kejanggalan pada video atau gambar," kata Lisa.

Ia menyarankan pengguna media sosial untuk rutin meninjau dan memperbarui privasi akun untuk mengontrol siapa saja yang bisa melihat unggahan dan informasi pribadi pengguna.

"Hanya dengan selalu waspada, kita bisa melindungi diri sendiri dalam menghadapi ancaman online yang ada," katanya.

Saking bahayanya deepfake, Google sempat melarang iklan yang mempromosikan situs web dan aplikasi berisi pornografi deepfake. 

Google telah memperbarui Kebijakan Konten Tidak Pantas (Inappropriate Content Policy) untuk menyertakan bahasa yang secara tegas melarang pengiklan mempromosikan situs web dan aplikasi atau layanan yang menghasilkan pornografi deepfake.

Meskipun Google menerapkan pembatasan ketat terhadap iklan yang menampilkan jenis konten seksual tertentu, pembaruan ini dilakukan untuk melarang mempromosikan konten sintetis yang telah diubah atau dibuat menjadi eksplisit secara seksual atau mengandung ketelanjangan.

Setiap pengiklan yang mempromosikan situs atau aplikasi yang menghasilkan pornografi deepfake, yang menunjukkan petunjuk tentang cara membuat pornografi deepfake, dan yang mendukung atau membandingkan berbagai layanan porno deepfake akan ditangguhkan tanpa peringatan.

Mereka juga tidak dapat lagi mempublikasikan iklan mereka di Google. Perusahaan akan mulai menerapkan aturan ini pada 30 Mei 2024, dan memberikan kesempatan kepada pengiklan untuk menghapus iklan apa pun yang melanggar kebijakan baru.

Seperti yang dilaporkan 404 Media, dikutip dari Engadget, Senin (6/5/2024), kebangkitan teknologi deepfake telah menyebabkan peningkatan jumlah iklan yang mempromosikan alat untuk pengguna yang ingin membuat materi seksual eksplisit.

Beberapa dari tools tersebut bahkan dilaporkan berpura-pura menjadi layanan yang sehat agar dapat terdaftar di Apple App Store dan Google Play Store.