Meta Tambahkan Tool Pembuat Gambar Berbasis AI ke WhatsApp, Facebook, hingga Instagram

Masih soal AI, meski sudah gulirkan Meta AI ke sejumlah layanannya khusus pengguna di AS, Meta akan ambil tindakan tegas dengan membuat aturan baru untuk konten AI di platform sosial media mereka. Rencana ini terungkap setelah dewan pengawas Meta menerima dua kasus berhubungan dengan gambar vulgar dari public figure yang dihasilkan oleh AI.

Meski larangan terkait konten seksual telah di platform sosial media milik Meta tertulis dengan jelas, dewan pengawas ingin membahas ulang terkait kejelasan kebijakan Meta. Mereka juga ingin mengetahui efektivitas praktik penegakan dalam menangani gambar eksplisit yang dihasilkan kecerdasan buatan.

Dikutip dari Engadget, Kamis (18/4/2024), gambar vulgar yang seringkali terlihat di media sosial Meta seperti Facebook dan Instagram adalah foto tiruan deepfake dari selebriti, public figure, hingga politisi.

Hal tersebut telah menyebabkan naiknya perilaku pelecehan seksual di media sosial, dan banyak pengguna meminta Meta untuk membuat aturan yang lebih tegas terkait foto-foto tersebut.

Dengan adanya dua kasus tersebut, Dewan Pengawas mendorong Meta, termasuk Facebook untuk mengadopsi aturan baru untuk mengatasi pelecehan semacam itu di platformnya.

Salah satu kasus melibatkan unggahan Instagram yang menunjukkan gambar seorang wanita India telanjang yang dibuat oleh AI yang di-posting oleh akun anonim yang hanya mengunggah gambar wanita India vulgar yang dibuat oleh AI.

Posting-an tersebut dilaporkan ke Meta tetapi laporan tersebut ditutup setelah 48 jam karena tidak ditinjau. Pengguna yang sama mengajukan banding atas keputusan tersebut, namun pengajuan banding tersebut juga ditutup dan tidak pernah ditinjau.

Kasus kedua melibatkan posting-an Facebook di grup khusus untuk mengunggah gambar yang dihasilkan AI. Unggahan tersebut menunjukkan gambar yang dihasilkan AI dari seorang wanita telanjang dengan seorang pria meraba payudaranya.

Gambar dari wanita yang dihasilkan AI itu mirip dengan salah satu pulic figure AS, yang namanya juga tercantum di unggahan tersebut.

Unggahan tersebut dihapus secara otomatis karena telah dilaporkan sebelumnya dan sistem internal Meta dapat mencocokkannya dengan posting-an sebelumnya. Pengguna mengajukan banding atas keputusan untuk menghapusnya, tetapi pengajuan banding tersebut ditutup secara otomatis oleh sistem.

Meta akhirnya menghapus posting-an tersebut setelah pengguna mengajukan banding ke Dewan Pengawas dan dewan setuju untuk mengambil kasus tersebut.

Dewan Pengawas mengatakan bahwa mereka tidak menyebut nama dua public figure tersebut dalam upaya untuk menghindari pelecehan lebih lanjut.