India Godok Aturan Soal Deepfake untuk Perangi Konten Berbahaya dan Palsu

Liputan6.com, Jakarta - Konten-konten deepfake dan kecerdasan buatan (artificial intelligence/AI) berbahaya yang beredar di internet jadi sorotan pemerintah India.

Baru-baru ini, India dilaporkan sedang menyusun aturan untuk mendeteksi dan membatasi penyebaran konten-konten palsu dan media buatan AI yang berbahaya.

Pemerintah India bersama dengan perusahaan media sosial besar, asosiasi industri Nasscom, dan akademisi telah sepakat bahwa dibutuhkan aturan untuk memerangi penyebaran video deepfake, namun tetap memfasilitas kreasi dalam aplikasi.

"Perusahaan-perusahaan tersebut memiliki keprihatinan yang sama dengan kami dan mereka memahami bahwa ini (deepfake) bukanlah kebebasan berpendapat," kata Menteri teknologi informasi India Ashwini Vaishnaw.

Menurut Vaishnaw, seperti dikutip dari Tech Crunch, Senin (27/11/2023), dalam pertemuan kementeriannya dengan pihak-pihak tersebut, mereka menyatakan deepfake adalah sesuatu yang merugikan masyarakat.

"Mereka memahami perlunya peraturan yang lebih ketat mengenai hal ini, jadi kami setuju bahwa kami akan mulai menyusun peraturan tersebut hari ini juga," ujarnya.

Vaishnaw mengatakan bahwa kementeriannya akan siap dengan "hal-hal yang dengan jelas dapat ditindaklanjuti" mengenai cara memerangi deepfake dalam 10 hari.

Selain itu, pemerintah India juga sedang mengevaluasi denda moneter bagi mereka yang tidak mematuhi dan pertanggungjawaban individu yang membuat video deepfake atau buatan AI.

Perusahaan media sosial pun akan melakukan pertemuan lanjutan dengan kementerian pada awal Desember mengenai masalah ini.

Vaishnaw juga menyebut, sempat ada kejadian video deepfake yang menampilkan seorang menteri terkemuka di India yang meminta warga untuk memilih partai oposisi.

Video yang direkayasa bisa berdampak besar pada sebuah pemilu. Bila pun akhirnya terbukti bahwa video ini hasil manipulasi, banyak orang sudah terlanjur percaya karena sudah beredar secara viral. Teknologi baru juga memungkinkan manipulasi "deepfake"...

2 dari 4 halaman

Kekhawatiran Etis dan Potensi Misinformasi dari Deepfake

"Deepfake dapat menyebar jauh lebih cepat tanpa pemeriksaan apa pun dan menjadi viral dalam beberapa menit setelah diunggah,"kata Vaishnaw pada konferensi pers.

"Itu sebabnya kita perlu mengambil beberapa langkah yang sangat mendesak untuk memperkuat kepercayaan masyarakat dan melindungi demokrasi kita," imbuhnya.

Selain itu, aturan baru ini juga akan fokus pada penguatan mekanisme pelaporan bagi individu, untuk melaporkan video semacam ini, serta tindakan proaktif dan tepat waktu oleh perusahaan media sosial.

Deepfake adalah media yang dihasilkan secara sintetis, sering kali menggunakan AI, untuk secara realistis menggantikan rupa atau suara seseorang. Meskipun terkadang dibuat sebagai bentuk hiburan semata, ada banyak kekhawatiran etis terkait persetujuan dan potensi misinformasi.

Langkah Kementerian IT India sejalan dengan kekhawatiran Perdana Menteri India Narendra Modi, mengenai video deepfake, yang diungkapkannya beberapa waktu lalu.

3 dari 4 halaman

PM India Sampaikan Kekhawatiran Soal Deepfake

Perdana Menteri India Narendra Modi (Dok. AFP)

Kekhawatiran Modi ini disampaikan usai beredar video palsu yang berisi seseorang mirip dirinya, melakukan tarian Garba, di mana menurutnya, video itu "sangat nyata", dan menegaskan dia belum pernah menari tarian Garba sejak masih muda.

Meski begitu, dikutip dari India Today, video ini bukanlah deepfake, melainkan video asli. Namun orang yang ada di sana adalah Vikas Mahante, aktor dan pebisnis yang mirip dengan Perdana Menteri India itu.

Cek fakta India Today melaporkan, video itu dibagikan Mahante pada 7 November, saat dia mengumumkan diundang sebagai tamu di Diwali Mela di London.

Selain itu, Mahante melalui akun Instagram-nya juga telah menyatakan bahwa orang yang ada di video itu bukanlah deepfake dan bukan Narendra Modi.

"Menjelaskan masalah deepfake baru-baru ini yang diangkat oleh Yang Terhormat Perdana Menteri India, Shri Narendra Modi ji, saya ingin menyampaikan kepada Anda semua bahwa orang dalam video viral itu adalah saya, Tuan Vikas Mahante," katanya.

"Saya ingin mengklarifikasi bahwa saya sama sekali tidak mengaku atau meniru Modi ji dan tidak melakukan hal yang akan menodai citranya sebagai Perdana Menteri India," ia menegaskan.

Beberapa aktor seperti Kajol, Katrina Kaif, dan Rashmika Mandanna baru-baru ini menjadi korban deepfake.

4 dari 4 halaman

Cara Hindari Bahaya Deepfake

Berikut ini beberapa tips yang dibagikan oleh perusahaan keamanan siber Kaspersky, untuk menghindari bahaya kejahatan siber yang memanfaatkan teknologi deepfake:

Pastikan karyawan dan keluarga mengetahui cara kerja deepfake dan tantangan yang dapat ditimbulkannya.
Edukasi diri Anda sendiri dan orang lain tentang cara mengenali deepfake.
Gunakan sumber berita yang berkualitas baik. Buta informasi bisa jadi faktor penting yang mendorong penyebaran deepfake.
Peganglah konsep "percaya tetapi verifikasi (trust but verify)." Sikap skeptis terhadap pesan suara dan video tidak menjamin terlepas dari jeratan penipuan, namun bisa membantu menghindarinya.

Selain itu, berikut ini adalah cara untuk meminimalisir risiko deepfake, apabila peretas sudah mulai menggunakannya untuk membobol jaringan pribadi dan organisasi:

Lakukan backup rutin untuk melindungi data dan membantu Anda untuk memulihkan data yang rusak atau hilang.
Gunakan kata sandi berbeda dan kuat untuk akun yang berbeda untuk menghindari banyaknya jaringan atau layanan yang disusupi.
Gunakan paket keamanan yang baik untuk melindungi jaringan rumah, laptop, dan ponsel cerdas Anda dari ancaman dunia maya.