4 Fakta yang Terungkap dari Facebook Papers

Facebook acap kali dituduh gagal memoderasi ujaran kebencian di situs berbahasa Inggris-nya. Tetapi, masalah tersebut jauh lebih buruk di negara-negara dengan bahasa lainnya.

Padahal sebelumnya, perusahaan berjanji bakal berinvestasi lebih besar setelah disalahkan atas perannya memfasilitasi genosida di Myanmar pada 2017.

Sebuah dokumen pada 2021 mengungkap, tentang jumlah moderator konten dalam dialek Arab sangat sedikit digunakan di Arab Saudi, Yaman, dan Libya.

Sementara itu di Afghanistan, di mana Facebook memiliki 5 juta pengguna, sebuah studi menemukan halaman yang menjelaskan cara melaporkan ujaran kebencian di platform medsos itu ternyata diterjemahkan secara salah.

Facebook juga menandai beberapa negara dengan label "berisiko tinggi" karena lanskap politik negara tersebut dianggap rapuh, dan berdasarkan frekuensi ujaran kebencian.

Menurut satu dokumen, perusahaan mengalokasikan 87 persen anggarannya untuk mengembangkan algoritme pendeteksian disinformasi di AS pada 2020, dibandingkan 13 persen ke seluruh dunia.

Haugen mengatakan Facebook harus transparan tentang sumber daya yang dimilikinya berdasarkan negara dan bahasa.

Sejumlah dokumen mengungkap, Facebook ternyata kebingungan dengan algoritme buatan mereka sendiri. Hal ini diketahui lewat sebuah memo yang diterbitkan pada September 2019.

Laki-laki cenderung mengikuti (follow) akun yang memproduksi konten politik, memo itu mengatakan algoritme peringkat feed Facebook juga memainkan peran penting.

Memo lainnya dari Juni 2020 menemukan "hampir dapat dipastikan," "sistem utama Facebook menunjukkan kecenderungan untuk mendukung atau menentang sebuah hal secara sistemik berdasarkan ras pengguna yang terpengaruh."

Facebook sejak lama mengatakan, program kecerdasan buatannya (AI) dapat mendeteksi dan menghapus ujaran kebencian dan penyalahgunaan. Akan tetapi, sebuah memo mengungkap keterbatasan AI tersebut menghadapinya di dunia nyata.

Menurut catatan pada Maret 2021 oleh sekelompok peneliti, perusahaan mengambil tindakan hanya pada 3 hingga 5 persen dari ujaran kebencian dan 0,6 persen dari konten kekerasan.

Memo lain menunjukkan, tindakan terhadap ujaran kebencian tidak pernah melampaui 10 hingga 20 persen. Hal ini karena AI mengalami kesulitan memahami konteks di mana bahasa digunakan.

Namun demikian, Facebook telah memutuskan untuk lebih mengandalkan AI dan membatasi pengeluaran untuk mempekerjakan manusia agar dapat memoderasi konten pada 2019 terkait ujaran kebencian.

Secara khusus, perusahaan mempersulit untuk melaporkan dan mengajukan banding atas keputusan tentang ujaran kebencian.

Masih dalam dokumen yang dibocorkan oleh Haugen, Facebook juga kedapatan kesulitan untuk menahan gelombang ujaran kebencian dan disinformasi di platformnya jelang kerusuhan 6 Januari 2021 di Washington.

Memo menunjukkan, perusahaan mematikan perlindungan darurat tertentu setelah pemilihan umum November 2020, dan kelabakan mengaktifkannya kembali saat kekerasan meningkat.

Satu penyelidikan internal menemukan, pelaksanaan tindakan yang cepat terhambat karena harus menunggu persetujuan dari tim kebijakan Facebook.

Pada Oktober 2020, Facebook secara terbuka mengumumkan akan berhenti merekomendasikan “kelompok masyarakat”, yang membahas masalah sosial dan politik.

Namun, karena masalah teknis dalam menerapkan perubahan, 3 juta pengguna AS masih direkomendasikan setidaknya satu dari 700.000 kelompok sipil yang diidentifikasi setiap hari antara pertengahan Oktober 2020 dan pertengahan Januari 2021.

(Ysl/Tin)