OpenAI Tawarkan Rp 297 Juta Buat Masyarakat yang Bisa Temukan Bug di ChatGPT

Liputan6.com, Jakarta - OpenAI menawarkan hadiah bagi masyarakat yang dapat menemukan bug atau mengungkapkan kerentanan yang ada di platform chatbot AI mereka, ChatGPT.

Melalui program Bug Bounty tersebut, OpenAI menjanjikan hadiah mulai dari USD 200 (sekitar Rp 3 juta) untuk temuan tingkat rendah, hingga USD 20.000 (sekitar Rp 297 juta) untuk temuan dengan tingkat keparahan luar biasa.

"Kami mengundang kamu untuk melaporkan kerentanan, bug, atau kelemahan keamanan yang kamu temukan di sistem kami," tulis OpenAI melalui laman resminya, seperti dikutip Kamis (13/4/2023).

"Dengan membagikan temuan, kamu akan memainkan peran penting dalam membuat teknologi kami lebih aman bagi semua orang," tambah perusahaan kecerdasan buatan itu.

Untuk program berburu bug ini, OpenAI menggandeng platform keamanan siber Bugcrowd, di mana semua laporan pengguna dapat dikirimkan ke sana.

Namun perlu dicatat, hadiah ini tidak mencakup jailbreak ChatGPT, atau menyebabkan chatbot AI itu menghasilkan kode atau teks berbahaya.

"Masalah yang terkait dengan konten permintaan dan respons model benar-benar di luar cakupan, dan tidak akan dihargai," tulis halaman Bugcrowd OpenAI.

Mengutip The Verge, jailbreaking ChatGPT biasanya dilakukan dengan memasukkan skenario yang rumit ke dalam sistem, yang memungkinkannya melewati filter keamanannya sendiri.

Ini mungkin termasuk memaksa chatbot untuk bermain peran sebagai "kembaran yang jahat", membiarkan pengguna memperoleh respon yang dilarang seperti ujaran kebencian, atau instruksi untuk membuat senjata.

Menurut OpenAI, masalah keamanan model seperti itu tidak tepat dalam program bug bounty, karena mereka bukan bug individual dan diskrit yang dapat diperbaiki secara langsung.

OpenAI menambahkan, "Menangani masalah ini seringkali melibatkan penelitian substansial dan pendekatan yang lebih luas dan laporan untuk masalah tersebut harus diserahkan lewat halaman feedback perusahaan."

Maraknya aplikasi penulisan kecerdasan buatan ChatGPT memprihatinkan banyak pihak karena kini lebih sulit mengungkap keaslian sebuah tulisan. Sejumlah perusahaan berlomba membuat alat pendeteksi yang bisa mengidentifkasi apakah tulisan dibuat oleh ma...

2 dari 3 halaman

OpenAI Sebut Ada Bug Bisa Bocorkan Data Sensitif Pengguna ChatGPT

Apa itu ChatGPT buatan OpenAI — Ilustrasi ChatGPT buatan OpenAI. (Liputan6.com/ Yuslianson)

Sebelumnya, pengguna ChatGPT belum lama ini memposting tangkapan layar di Reddit yang menunjukkan sidebar mereka menampilkan riwayat obrolan sebelumnya dari pengguna lain. Hanya judul percakapan yang terlihat.

Menanggapi hal ini, sebagaimana dilansir Engadget, Sabtu (25/3/2023), OpenAI membuat chatbot AI besutannya itu offline selama hampir 10 jam untuk melakukan penyelidikan.

Hasil penyelidikan tersebut mengungkapkan masalah keamanan yang lebih dalam, di mana bug riwayat obrolan mungkin juga berpotensi mengungkap data pribadi dari 1,2 persen pelanggan ChatGPT Plus (paket langganan US$ 20 per bulan).

"Beberapa jam sebelum kami menjadikan ChatGPT offline pada hari Senin, beberapa pengguna dapat melihat nama depan dan belakang pengguna aktif lainnya, alamat email, alamat pembayaran, empat digit terakhir (hanya) dari nomor kartu kredit, dan nomor kartu kredit. tanggal kedaluwarsa. Nomor lengkap kartu kredit tidak diungkapkan," tulis tim OpenAI.

3 dari 3 halaman

Bug Telah Ditambal

ChatGPT di Ponsel — Ilustrasi tampilan ChatGPT di ponsel. (unsplash/Rolf van Root)

Bug ini telah ditambal untuk pustaka yang rusak, diidentifikasi OpenAI sebagai pustaka sumber terbuka klien Redis, redis-py.

Perusahaan telah mengambil langkah-langkah tambahan untuk mencegah hal ini terjadi lagi di masa mendatang, termasuk memperketat pemeriksaan ke panggilan perpustakaan.

"Memeriksa log secara terprogram untuk memastikan bahwa semua pesan hanya tersedia untuk pengguna yang benar dan meningkatkan logging untuk mengidentifikasi kapan masalah sedang terjadi dan sepenuhnya mengonfirmasi bahwa masalah itu telah berhenti," OpenAI memaparkan.

Perusahaan menuturkan juga telah menghubungi sejumlah pengguna ChatGPT yang terkena dampak masalah ini.

(Dio/Isk)