YouTube Larang Konten AI yang Simulasikan Kematian Anak dalam Kasus Kriminal

Pengguna yang menerima teguran tidak akan bisa mengunggah video atau membuat siaran langsung selama sepekan. Apabila menerima tiga kali teguran, kanal akan dihapus secara permanen dari platform milik Google tersebut.

Dua bulan lalu, YouTube juga merilis kebijakan baru terkait pelabelan konten AI yang bertanggung jawab, serta alat baru untuk meminta penghapusan deepfake.

Salah satu perubahan tersebut mengharuskan pengguna untuk mengungkapkan, kapan mereka membuat konten yang diubah atau sintetis, yang tampak realistis.

Perusahaan memperingatkan pengguna yang gagal mengungkapkan dengan benar penggunaan AI mereka, akan dikenakan “penghapusan konten, penangguhan dari YouTube Partner Program, atau hukuman lainnya.”

YouTube juga mencatat saat itu bahwa beberapa konten AI mungkin alan dihapus, jika digunakan untuk menunjukkan “kekerasan yang realistis”, meskipun konten tersebut diberi label.

Di Indonesia, Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar patria mengungkapkan, pemerintah tengah menyusun Peraturan Presiden (Perpres), yang bakal mengatur pemanfaatan AI.

"Saat ini sedang dipersiapkan menjadi Peraturan Presiden untuk memberikan implementasi lebih kuat dan komprehensif," kata Wamenkominfo di Fakultas Filsafat Universitas Gadjah Mada, Yogyakarta, Rabu (27/12/2023).

Menurut Nezar, upaya ini menjadi bagian dari peningkatan ekosistem AI nasional.

"Kami berharap dapat menerbitkan peraturan AI mengikat secara hukum dalam waktu dekat, tidak hanya akan memitigasi risiko AI tetapi juga memupuk ekosistem AI lokal kita," ujarnya, seperti dikutip dari siaran pers.

Rencana menghadirkan aturan pemanfaatan AI lebih ketat, muncul usai Kementerian Kominfo meluncurkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 tahun 2023 tentang Etika Kecerdasan Artifisial, pada 19 Desember 2023 lalu.

Surat Edaran ini tidak bersifat mengikat secara hukum, melainkan sebagai pedoman, sehingga pengembangan dan pemanfaatan AI tetap tunduk pada aturan yang berlaku, seperti Undang-Undang Informasi dan Transaksi Elektronik (ITE) dan Undang-Undang Pelindungan Data Pribadi (PDP).

"Sebagai informasi dalam waktu dekat kami juga akan mulai melakukan langkah langkah penyiapan regulasi AI  bersifat mengikat secara hukum," kata Menkominfo dalam konferensi pers di Jakarta, Jumat (22/12/2023).

"Melalui regulasi tersebut kami harapkan dapat menghadirkan kepastian hukum dalam pemanfaatan dan pengembangan AI, serta mendukung pengembangan ekosistem AI nasional," imbuhnya.

Menkominfo Budi menjelaskan lebih lanjut hingga saat ini, AI di Indonesia masih tunduk pada UU ITE dan UU PDP.

"Jadi kalau ditanya masalah hukumnya gimana kan mengacu pada dua Undang-Undang itu, perlindungan data pribadi dan Undang-Undang ITE," kata Menkominfo.

"Kalau manakala melanggar atau bisa dikenakan sanksi atau pasal yang ada di Undang-Undang ITE atau Undang-Undang PDP, secara hukum bisa diproses," kata Budi.