Pakar Uji AI ChatGPT untuk Deteksi Kejahatan Siber Phishing, Begini Hasilnya

Lebih lanjut, menurut Kaspersky, penjahat siber biasanya menyebutkan merek populer di tautan mereka, untuk mengelabui pengguna agar percaya bahwa URL tersebut asli dan resmi milik perusahaan.

Di sini, para pakar mencatat bahwa model bahasa AI itu menunjukkan hasil yang mengesankan dalam mengidentifikasi potensi target phishing.

Misalnya, ChatGPT telah berhasil mengekstraksi target dari lebih dari separuh URL termasuk portal teknologi utama seperti Facebook, TikTok, dan Google, e-commerce seperti Amazon dan Steam, dan banyak bank dari seluruh dunia.

Meski begitu, eksperimen mencatat ChatGPT mungkin memiliki persoalan serius saat harus membuktikan poinnya pada keputusan apakah tautan tersebut berbahaya.

Beberapa penjelasan bersifat tepat dan berdasarkan fakta, sedangkan lainnya mengungkapkan keterbatasan model bahasa, termasuk halusinasi dan pernyataan yang salah: banyak penjelasan yang keliru, meski dengan intonasi meyakinkan.

Vladislav Tushkanov, Ilmuwan Data Utama di Kaspersky mengatakan, ChatGPT benar-benar menjanjikan dalam membantu para analis manusia, dalam mendeteksi serangan phishing.

"Tetapi mari jangan membiarkan itu mendahului kita karena model bahasa masih memiliki keterbatasan," kata Tushkanov.

"Meskipun teknologi tersebut mungkin setara dengan analis phishing tingkat intern dalam hal penalaran mengenai serangan phishing dan mengekstraksi siapa saja yang termasuk target potensial, mereka cenderung masih menghasilkan pernyataan yang bersifat keliru."

Tushkanov pun mengatakan, meskipun mungkin belum merevolusi lanskap keamanan siber, AI masih dapat menjadi alat yang bermanfaat bagi komunitas dan masyarakat.

Beberapa waktu lalu, potensi penyalahgunaan alat AI ChatGPT diketahui kian meningkat sebab mampu membuat malware berbahaya dan tidak terdeteksi anti virus.

Hal ini dibuktikan oleh seorang peneliti keamanan Forcepoint, Aaron Mulgrew, dengan meminta alat kecerdasan buatan tersebut membuat exploit zero day berkemampuan mencuri data korban.

Mengejutkannya, malware buatan ChatGPT itu mampu menghindari deteksi oleh semua program antivirus di dalam katalog VirusTotal.

Dilansir Gizchina, Minggu (16/4/2023), OpenAI telah menerapkan perlindungan untuk mencegah pengguna meminta ChatGPT untuk menulis kode berbahaya.

Namun, Aaron berhasil melewati perlindungan tersebut dengan meminta chatbot menghasilkan setiap baris kode berbahaya dan fokus pada fungsi terpisah.  Setelah mengkompilasi berbagai fungsi, Aaron mencoba eksekusi pencurian data dan hampir tidak terdeteksi.

Tidak seperti malware tradisional yang membutuhkan tim peretas dan sumber daya yang besar, Aaron menciptakan malware ini sendiri dalam waktu beberapa jam dan sama sekali tidak memiliki pengalaman dalam pengkodean.

Penemuan tersebut menjadi ancaman bagi penyalahgunaan alat bertenaga AI semacam ChatGPT, sekaligus menimbulkan pertanyaan tentang keamanan dan mudahnya eksploitasi.

(Dio/Isk)