AI Jadi Senjata Baru Hacker, Bikin Deepfake untuk Sebar Misinformasi hingga Penipuan

Liputan6.com, Jakarta - Kemajuan kecerdasan buatan (artificial intelligence/AI) yang pesat ternyata tak hanya membawa manfaat, namun juga menjadi ancaman serius.

Penelitian terbaru perusahaan keamanan siber Trend Micro mengungkapkan para hacker kini semakin memanfaatkan AI untuk melancarkan serangan siber yang semakin canggih dan sulit dideteksi.

Salah satu ancaman terbesar adalah deepfake, teknologi yang memungkinkan pembuatan video atau audio palsu yang sangat mirip dengan aslinya.

Dengan bantuan AI, mereka bisa mengecoh korban untuk melakukan pemerasan, pencurian identitas, fraud, atau menyebar misinformasi.

COO Trend Micro, Kevin Simzer, mengungkapkan peretas kini memiliki alat deepfake yang lebih murah dan mudah digunakan.

"Fenomena itu tentu membuat mereka bisa melancarkan serangan yang lebih besar dan lebih efektif," kata Simzer melalui keterangannya, Sabtu (3/8/2024).

Bahaya deepfake tidak hanya mengancam perusahaan, tetapi juga individu. Survei Trend Micro menunjukkan 71% responden merasa khawatir dengan deepfake dan meyakini bahwa teknologi ini sering digunakan untuk penipuan.

"Deepfake yang tidak terdeteksi bisa menyebabkan kerugian finansial, kerusakan reputasi, bahkan ancaman fisik," Simzer memungkaskan.

2 dari 4 halaman

Teknologi Pendeteksi Deepfake

Bikin Rugi Perusahaan Rp 371 Milliar, Pelaku Gunakan Teknologi Deepfake — CFO deepfake menciptakan tantangan tambahan dalam mengidentifikasi keaslian seseorang dalam konteks digital. Sumber: Odditycentral //Photo: Pixabay

Melihat ancaman yang semakin serius, Trend Micro telah mengembangkan teknologi baru untuk mendeteksi deepfake.

Teknologi ini akan menggunakan berbagai metode canggih untuk mengidentifikasi konten yang dihasilkan oleh AI.

"Penting bagi kita untuk mengembangkan cara-cara baru untuk mendeteksi deepfake, karena teknologi ini berkembang sangat cepat," kata Analis Gartner, Dan Ayoub.

Deepfake menimbulkan risiko yang signifikan bagi enterprise modern dan individu. Deepfake yang tidak terdeteksi dapat menyebabkan dampak finansial, kehilangan pekerjaan, masalah hukum, kerusakan reputasi, pencurian identitas, dan potensi bahaya terhadap kesehatan mental atau fisik.

Dalam studi Trend Micro baru-baru ini, 36% konsumen melaporkan telah mengalami upaya penipuan menggunakan deepfake.

3 dari 4 halaman

Panggilan Video Palsu Menggunakan Deepfake

FBI sebelumnya juga telah memperingatkan tentang teknologi deepfake yang digunakan bersama dengan panggilan video untuk melakukan business email compromise attack, dan melamar kerja jarak jauh secara curang.

Teknologi ini tidak hanya disalahgunakan untuk meniadakan verifikasi manusia, tetapi juga langkah-langkah keamanan biometrik seperti pengenalan wajah.

Penelitian Trend Micro juga menemukan adanya perubahan yang menunjukkan peningkatan ketertarikan untuk mengeksploitasi model LLM yang ada melalui teknik pembobolan yang inovatif ketimbang mengembangkan tools AI untuk kejahatan.

4 dari 4 halaman