Kasus Terbaru Penyalahgunaan AI, Suara Kepala Sekolah di AS Berisi Ucapan Rasis

Otoritas di Baltimore County mengatakan bahwa Dazhon Darien, direktur atletik di Pikesville High, menciptakan suara palsu dari Kepala Sekolah Eric Eiswert.

Rekaman palsu tersebut berisi komentar rasis dan anti-Semit, kata polisi. File suara itu muncul dalam sebuah email di kotak masuk beberapa guru sebelum menyebar ke media sosial.

Rekaman itu muncul setelah Eiswert mengungkapkan kekhawatiran tentang kinerja kerja Darien dan dugaan penyalahgunaan dana sekolah, lapor polisi.

Kasus rekaman palsu ini akhirnya membuat Eiswert memutuskan cuti, sementara polisi menjaga rumahnya, kata otoritas. Panggilan telepon marah 'membanjiri' sekolah, sementara pesan berisi kebencian menumpuk di media sosial.

Detektif meminta ahli luar untuk menganalisis rekaman tersebut. Salah satu ahli mengatakan bahwa rekaman itu "mengandung jejak konten yang dihasilkan oleh AI dengan suntingan hasil manusia setelahnya," catatan pengadilan menyatakan.

Opini kedua dari Farid menemukan bahwa "beberapa rekaman disambungkan bersama," menurut catatan tersebut.

Farid mengatakan kepada The Associated Press bahwa masih ada pertanyaan mengenai bagaimana rekaman itu dibuat, dan ia belum mengkonfirmasi bahwa itu sepenuhnya dihasilkan oleh AI.

Tetapi mengingat kemampuan AI yang semakin berkembang, Farid mengatakan kasus Maryland tetap menjadi "petunjuk awal yang penting" mengenai perlunya mengatur teknologi dengan lebih baik.

Banyak kasus disinformasi yang dihasilkan oleh AI berupa audio atau rekaman suara.

Hal itu sebagian karena teknologi telah berkembang begitu cepat dan telinga manusia juga tidak selalu dapat mengidentifikasi tanda-tanda manipulasi, sementara perbedaan dalam video dan foto lebih mudah terlihat.

Beberapa orang telah mengkloning suara anak-anak yang diduga diculik melalui telepon untuk mendapatkan uang tebusan dari orang tua, kata para ahli. Ada juga yang berpura-pura menjadi eksekutif utama dari sebuah perusahaan yang mendesak membutuhkan dana.

Selama pemilihan awal New Hampshire tahun ini, panggilan otomatis yang dihasilkan oleh AI meniru suara Presiden Joe Biden dan mencoba meyakinkan pemilih Demokrat untuk tidak memilih. Para ahli memperingatkan tentang lonjakan disinformasi yang dihasilkan oleh AI yang menargetkan pemilihan AS tahun ini.

Tetapi tren yang mengganggu tidak hanya terbatas pada audio, namun ada juga seperti program-program yang membuat foto telanjang palsu dari orang-orang tanpa izin, termasuk anak-anak, demikian para ahli memperingatkan.

Penyanyi Taylor Swift pun baru-baru ini menjadi sasaran.

Sebagian besar penyedia teknologi pembuat suara AI mengatakan mereka melarang penggunaan yang merugikan dari alat mereka. Namun, beberapa penegakannya bervariasi.

Beberapa vendor mengharuskan jenis tanda suara tertentu, atau mereka meminta pengguna mengucapkan serangkaian kalimat unik sebelum suara dapat dikloning.

Perusahaan teknologi besar seperti Meta dari Facebook dan OpenAI pembuat ChatGPT, hanya mengizinkzan sekelompok kecil pengguna terpercaya untuk bereksperimen dengan teknologi tersebut karena risiko penyalahgunaan.

Farid mengatakan perlu dilakukan lebih banyak hal lagi, misalnya, semua perusahaan harus mengharuskan pengguna untuk mengirimkan nomor telepon dan kartu kredit agar mereka dapat melacak file yang disalahgunakan teknologinya.

Ide lain adalah mensyaratkan agar rekaman dan gambar membawa watermark digital.

"Anda memodifikasi audio dengan cara yang tidak terdeteksi oleh sistem pendengaran manusia, tetapi dengan cara yang dapat diidentifikasi oleh perangkat lunak di bawahnya," kata Farid.

Alexander Reeve Givens, CEO dari Center for Democracy & Technology, mengatakan intervensi yang paling efektif adalah tindakan penegakan hukum terhadap penggunaan kriminal AI.

"Hal tersebut bisa rumit untuk menambahkan tanggung jawab hukum karena dalam begitu banyak kasus, mungkin ada penggunaan teknologi yang positif atau memperkuat," kata Givens, mengutip program penerjemahan dan pembacaan buku.

Tantangan lainnya adalah mencari kesepakatan internasional mengenai etika dan pedoman, kata Christian Mattmann, direktur dari kelompok Information Retrieval & Data Science di University of Southern California.

"Orang menggunakan AI secara berbeda tergantung pada negara tempat mereka berada," kata Mattmann. "Dan bukan hanya pemerintah, tetapi orang-orang. Jadi budaya memiliki peran di sini."