Apple Tunda Peluncuran Fitur Anti Pelecehan Anak yang Kontroversial

Fitur yang direncanakan salah satunya disertakan dalam aplikasi Pesan atau Messages, di mana anak dan orangtua akan diberitahu ketika Apple mendeteksi foto eksplisit seksual yang dibagikan di aplikasi.

Gambar yang dikirimkan pada anak akan diburamkan dan disertai dengan peringatan.

Apple juga mau menyertakan informasi mengarahkan pengguna bagaimana cara melaporkan CSAM, atau mencari informasi terkait pencegahan hal itu di Siri dan aplikasi pencari mereka.

Namun, fitur iCloud Photos dianggap paling kontroversial dibanding lainnya.

Awalnya, Apple berencana menggunakan sistem pada perangkat untuk mencocokkan foto dengan database CSAM yang dikelola National Center for Missing and Exploited Children (NCMEC) AS dan organisasi lainnya.

Analisa ini dilakukan sebelum gambar diunggah ke iCloud. Jika sistem mendeteksi CSAM dan kajian dari ahli mengonfirmasi kecocokan, Apple akan menonaktifkan akun pengguna itu dan melaporkannya ke NCEMC.

Apple mengatakan, pendekatan itu memberikan "manfaat privasi atas teknik yang ada karena Apple hanya mengetahui foto pengguna jika mereka memiliki koleksi CSAM yang dikenal di akun iCloud Photos mereka."

Meski didukung oleh sejumlah organisasi tentang langkah tersebut, namun beberapa merasa pemindaian tersebut bisa dipakai penegak hukum atau pemerintah untuk mendorong Apple mencari jenis gambar lain.

Dua peneliti di Princeton University yang mengatakan sedang membangun sistem serupa, menyebut teknologi itu berbahaya karena sistem mereka bisa digunakan untuk pemantauan dan sensor.

"Desainnya tidak terbatas pada kategori konten tertentu; sebuah layanan dapat dengan mudah bertukar dalam basis data pencocokan konten apa pun, dan orang yang menggunakan layanan itu tidak akan menjadi lebih bijaksana."

Di sisi lain, Andy Borrows, Head of Child Safety Online di National Society for the Prevention of Cruelty of Children menyayangkan penundaan peluncuran fitur itu.

"Apple telah mengadopsi pendekatan proporsional yang berusaha menyeimbangkan keamanan dan privasi pengguna, sudah seharusnya mereka tetap teguh pada pendirian," kata Borrows.

(Dio/Ysl)