Waspada, Marak Penipuan Siber Bawa-Bawa Nama ChatGPT OpenAI

Liputan6.com, Jakarta Perusahaan keamanan siber Palo Alto Networks mengingatkan masyarakat atas aksi penipuan yang mengatasnamakan chatbot artificial intelligence (kecerdasan buatan) atau AI ChatGPT buatan OpenAI.

Hasil temuan tim intelijen siber Unit 42 Palo Alto Networks mencatat, peningkatan popularitas AI generatif ini menyebabkan lonjakan aktivitas penipuan seputar ChatGPT.

Unit 42 mengamati beberapa URL menipu, yang ditujukan untuk serangan phishing dengan menyamar situs web resmi OpenAI.

Mengutip siaran pers, Jumat (5/5/2023), para penipu di balik skema tersebut biasanya membuat situs web palsu yang sangat mirip dengan situs web resmi ChatGPT.

Tujuannya adalah mendorong pengguna untuk mengunduh perangkat lunak berbahaya atau mengungkapkan informasi pribadi dan rahasia.

"Meskipun OpenAI menawarkan versi gratis dari ChatGPT, para penipu sering kali menyesatkan korbannya sehingga mengunjungi situs web palsu dan membayar untuk menggunakan layanan ini," tulis Palo Alto Networks.

Selain itu, Palo Alto Networks juga mengungkapkan sejumlah temuan lain dalam risetnya. Misalnya, skstensi AI ChatGPT dapat menambahkan background script ke browser korban yang berisi JavaScript yang mengandung ambiguitas.

JavaScript ini menggunakan API Facebook, untuk mencuri detail akun korban, dan mungkin mendapatkan akses lebih lanjut ke akun mereka.

Palo Alto Networks juga mencatat, antara November 2022 sampai April 2023, Unit 42 melihat adanya peningkatan aktivitas pendaftaran bulanan untuk domain terkait ChatGPT hingga 910 persen.

Maraknya aplikasi penulisan kecerdasan buatan ChatGPT memprihatinkan banyak pihak karena kini lebih sulit mengungkap keaslian sebuah tulisan. Sejumlah perusahaan berlomba membuat alat pendeteksi yang bisa mengidentifkasi apakah tulisan dibuat oleh ma...

2 dari 4 halaman

Deteksi URL Berbahaya Terkait ChatGPT

Ilustrasi ChatGPT, chatbot AI generatif yang mampu ciptakan malware canggih. (unsplash/Choong Deng Xiang)

Dalam laporannya, Palo Alto Networks juga mencatat ada lebih dari 100 kasus deteksi harian atas URL berbahaya terkait dengan ChatGPT, dari traffic yang ditangkap oleh sistem Advanced URL Filtering Palo Alto Networks.

Dalam kurun waktu yang sama, tim intelijen juga mengamati hampir 18.000 persen pertumbuhan squatting domains (penjahat siber yang mendaftarkan nama domain yang terkait dengan nama merek dagang) dari log keamanan DNS.

Lainnya, Unit 42 melihat beberapa URL phishing, yang mencoba meniru situs resmi OpenAI.

"Biasanya, para penipu membuat situs web palsu yang sangat mirip dengan tampilan situs web resmi ChatGPT, kemudian menipu pengguna untuk mengunduh malware atau membagikan informasi sensitif," tulis perusahaan.

3 dari 4 halaman

Pakar Uji AI ChatGPT untuk Deteksi Kejahatan Siber Phishing

Sebelumnya, pakar Kaspersky baru-baru ini melakukan eksperimen untuk melihat seberapa jauh kemampuan ChatGPT dalam mendeteksi tautan phishing, serta pengetahuan keamanan siber yang dipelajarinya selama pelatihan.

Para pakar ini menguji GPT-3.5 Turbo, model yang mendukung ChatGPT, pada lebih dari 2.000 tautan yang dianggap sebagai phishing oleh teknologi anti-phishing Kaspersky, dan menggabungkannya dengan ribuan URL aman.

Dalam siaran pers, dikutip Selasa (2/5/2023), Kaspersky menyatakan bahwa tingkat deteksi bervariasi, tergantung pada perintah yang digunakan.

Eksperimen ini pun menggunakan dua pertanyaan yang diajukan ke chatbot AI buatan OpenAI tersebut yaitu: "Apakah tautan ini mengarah ke situs web phishing?" dan "Apakah tautan ini aman untuk dikunjungi?"

Hasilnya, ChatGPT mendapatkan tingkat deteksi 87,2 persen dan tingkat positif palsu 23,2 persen untuk pertanyaan "Apakah tautan ini mengarah ke situs web phishing?"

Sementara di pertanyaan "Apakah tautan ini aman untuk dikunjungi?", chatbot itu mendapatkan tingkat deteksi di 93,8 persen. Namun, tingkat positif palsunya juga lebih tinggi yaitu di angka 64,3 persen.

"Sementara tingkat deteksi sangat tinggi, tingkat positif palsu terlalu tinggi untuk segala jenis aplikasi produksi," kata Kaspersky.

4 dari 4 halaman

Bisa Memberikan Pernyataan yang Keliru

Lebih lanjut, menurut Kaspersky, penjahat siber biasanya menyebutkan merek populer di tautan mereka, untuk mengelabui pengguna agar percaya bahwa URL tersebut asli dan resmi milik perusahaan.

Di sini, para pakar mencatat bahwa model bahasa AI itu menunjukkan hasil yang mengesankan dalam mengidentifikasi potensi target phishing.

Misalnya, ChatGPT telah berhasil mengekstraksi target dari lebih dari separuh URL termasuk portal teknologi utama seperti Facebook, TikTok, dan Google, e-commerce seperti Amazon dan Steam, dan banyak bank dari seluruh dunia.

Meski begitu, eksperimen mencatat ChatGPT mungkin memiliki persoalan serius saat harus membuktikan poinnya pada keputusan apakah tautan tersebut berbahaya.

Beberapa penjelasan bersifat tepat dan berdasarkan fakta, sedangkan lainnya mengungkapkan keterbatasan model bahasa, termasuk halusinasi dan pernyataan yang salah: banyak penjelasan yang keliru, meski dengan intonasi meyakinkan.

(Dio/Isk)