50 Negara Bagian AS Perangi Eksploitasi dan Pelecehan Seksual Anak Pakai AI

AI dapat meningkatkan keberhasilan serangan siber — Eksploitasi anak oleh AI. (Pexels/Tima Miroshnichenko)

Liputan6.com, Jakarta - Jaksa Agung di seluruh 50 negara bagian Amerika Serikat (AS), ditambah empat wilayah, menandatangani surat yang menyerukan Kongres untuk menindaklanjuti pelecehan seksual terhadap anak atau CSAM (child sexual abuse material) yang didukung AI (Artificial Intelligence/kecerdasan buatan).

Dilansir TechCrunch, Jumat (8/9/2023), AI semakin memudahkan para pelaku kejahatan dalam membuat gambar palsu yang secara realistis menggambarkan orang-orang dalam skenario palsu.

Dalam surat yang dilayangkan, tertulis bahwa meskipun kejahatan internet terhadap anak-anak telah secara aktif dituntut, setiap perwakilan dari negara bagian tersebut merasa khawatir kalau AI menciptakan batas baru bagi pelanggaran yang membuat penuntutan menjadi lebih sulit.

Mereka juga menyatakan kekhawatirannya terhadap anak-anak yang menjadi sumber foto deepfake dianiaya secara fisik atau pun bukan dan pembuatan serta peredaran gambar seksual.

Semua itu berpotansi mengancam kesejahteraan fisik, psikologis, dan emosional anak-anak yang menjadi korbannya, serta orang tua mereka.

Para penandatangan surat tersebut mendorong Kongres untuk membentuk sebuat komite untuk meneliti solusi guna mengatasi risiko CSAM yang dihasilkan oleh AI.

Tindakan semacam ini, khususnya pemalsuan AI yang bersifat non-konsensual dan eksploitatif secara seksual sudah menjamur secara online. Namun, perlindungan hukum untuk para korban masih kurang diperhatikan.

Meskipun platform media sosial besar melarang konten semacam ini, tetapi masih saja bisa lolos. Pada Maret 2023, sebuah aplikasi yang dapat menukar wajah menjadi video yang menjurus menayangkan lebih dari 230 iklan di Facebook, Instagram, dan Messenger.

Namun, Meta telah menghapusnya setelah mendapat pemberitahuan dari reporter NBC News, Kat tenbarge.

2 dari 4 halaman

Jaksa Desak Kongres Atasi CSAM yang Dihasilkan Oleh AI

Edukasi tentang keamanan berinternet — Ajarkan anak untuk selalu berhati-hati dalam menggunakan gadget dan internet (foto: Pexels/Andrea Piacqudio)

Dilansir The Verge, jaksa agung dari seluruh 50 negara bagian Amerika Serikat menginginkan anggota parlemen membentuk komisi yang didedikasi untuk menyelidiki dampak AI terhadap eksploitasi anak.

Dalam suratnya yang dilayangkan kepada Kongres, jaksa agung mengatakan bahwa komisi yang diusulkan harus memberikan solusi untuk mencegah pembuatan materi pelecehan seksual terhadap anak (CSAM) yang dihasilkan oleh AI.

Masing-masing kepala jaksa meminta agar Kongres membentuk komisi untuk "mempelajari cara dan metode AI yang dapat digunakan untuk mengekploitasi anak-anak," serta memperluas "pembatasan CSAM yang ada agar secara eksplisit mencakup CSAM yang dihasilkan oleh AI.

Pemerintah Amerika Serikat telah mulai mengevaluasi beberapa risiko terkait AI. Setelah pemerintahan Biden meluncurkan rencana untuk mempromosikan AI yang etis pada bulan Mei, Senat mengadakan sidang yang sangat bersahabat mengenai regulasi AI.

3 dari 4 halaman

Uni Eropa Telah Lebih Dulu Mengesahkan UU yang Membatasi Penggunaan AI Berisiko Tinggi

Berkaitan dengan adanya pelanggaran terhadap penggunaan teknologi AI, Parlemen Eropa juga telah mengesahkan undang-undang baru yang membatasi penggunaan AI berisiko tinggi.

Dilansir The Verge, undang-undang tersebut sebelumnya diusulkan oleh anggota parlemen pada April 2021.

Dalam usulan tersebut anggota parlemen mengingatkan bahwa teknologi AI tidak hanya memberi manfaat ekonomi dan sosial, tetapi juga risiko baru atau konsekuensi negatif bagi individu atau masyarakat.

Namun sayangnya, undang-undang ini gagal dalam melindungi migran dan pengungsi dari sistem AI. Bidang lain dalam undang-undang AI telah dikritik karena gagal melindungi kelompok marginal yang mungkin terkena dampak teknologi.

Myers West, Managing Diretor AI, mengatakan bahwa hal ini mengandung kesenjangan yang signifikan, seperti mengabaikan bagaimana AI digunakan dalam konteks migrasi, dampak buruk yang paling berdampak pada komunitas kulit berwarna.

Jenis dampak buruk inilah yang paling mendesak untuk dilakukan intervensi regulasi: AI telah digunakan secara luas dengan cara yang memengaruhi akses masyarakat terhadap sumber daya dan peluang hidup, serta meningkatkan pola kesenjangan yang luas.

4 dari 4 halaman

Jaksa Long Island Mendakwa Pelaku CSAM Awal Tahun Ini

Kekecewaan perampok saat melakukan aksi kriminalnya. — Seorang pria terdakwa sebagai pelaki CSAM. (Pexels)

Membuat deepfake pornografi yang menggambarkan orang sungguhan merupakan tindakan ilegal di beberapa wilayah Amerika Serikat. Dilansir The Register, Rabu (6/9/2023), awal tahun 2023 ini, jaksa di Long Island, New York, mendakwa seorang pria karena membuat dan membagikan deepfake seksual eksplisit yang menggambarkan lebih dari selusin wanita di bawah umur.

Pelaku menggunakan gambar-gambar yang diambil dari profil media sosial para korbannya. Materi buatan mesin ini kemudian dibagikan ke situs-situs porno bersama dengan informasi pribadi korban beserta pernyataan profokator untuk melecehkan mereka.

Atas tindakannya ini, pelaku yang merupakan pria berusia 22 tahun itu divonis enam bulan penjara dan diberi masa percobaan sepuluh tahun dengan kondisi pelaku kejahatan seksual yang berat.