Model AI Q-Star dari OpenAI Dinilai Bisa Mengancam Umat Manusia, Ini Alasannya

Liputan6.com, Jakarta - Beberapa staf peneliti OpenAI dilaporkan telah menulis surat kepada dewan direksi tentang penemuan AI yang diklaim berpotensi mengancam keberadaan umat manusia.

Mengutip Indian Express, Sabtu (2/12/2023), awal tahun ini, sebuah tim OpenAI yang dipimpin oleh Ilya Sutskever dilaporkan membangun model baru AI (kecerdasan buatan) bernama Q* (Q-star).

Model baru ini diklaim dapat memecahkan masalah matematika dasar dan masalah lain yang bukan bagian dari data pelatihannya. Ini menjadi sebuah lompatan signifikan menuju Artificial General Intelligence (AGI).

Sekadar diketahui, AGI merupakan sebuah kemampuan hipotesis AI dalam melakukan tugas intelektual seperti yang dilakukan oleh otak manusia. Dengan demikian, bisa dibilang model ini memiliki kemampuan penalaran mirip dengan manusia.

Terobosan ini dikembangkan lebih lanjut oleh Szymon Sidor dan Jakub Pachoki. Dan kabarnya, Q* dibentuk dengan menggabungkan tim Code Gen dan Math Gen di OpenAI. Tim ini berfokus pada peningkatan kemampuan penalaran model AI untuk tugas-tugas ilmiah.

Namun, terobosan teknologi ini juga memicu ketakutan di kalangan staf yang merasa bahwa perusahaan AI tidak memiliki perlindungan yang cukup untuk mengkomersialkannya.

Surat dari para peneliti dilaporkan menguraikan kekhawatiran seputar potensi kemampuan sistem untuk mempercepat kemajuan ilmu pengetahuan. Pada saat yang sama, mereka juga mempertanyakan kecukupan langkah-langkah keamanan yang diterapkan oleh OpenAI.

Menurut laporan Reuters, model tersebut dilaporkan memicu kemarahan internal, dengan staf menyatakan bahwa model AI ini dapat mengancam umat manusia.

2 dari 3 halaman

Ini Alasan Q* Dianggap Mengancam Umat Manusia

Forum Kecerdasan Buatan — Komitmen yang lahir pada bulan Juli itu bertujuan untuk memastikan kekuatan AI tidak digunakan untuk tujuan yang merusak. Google, OpenAI dan Microsoft telah menandatanganinya lebih dahulu pada bulan Juli. (AP Photo/Jacquelyn Martin)

1. Penalaran logis tingkat lanjut dan pemahaman konsep abstrak

Sejauh ini, semua laporan di internet menunjukkan bahwa Q* memiliki kemampuan penalaran logis dan pemahaman konsep abstrak. Ini merupakan sebuah terobosan baru bagi dunia teknologi, sebab belum ada model AI dengan kemampuan semacam ini.

Namun hal ini juga dapat menyebabkan perilaku atau keputusan yang tidak dapat diprediksi. Atau bahkan bisa jadi tidak dapat diramalkan atau dipahami oleh manusia sebelumnya.

2. Pembelajaran mendalam dan aturan terprogram

Sophia Kalanovska, seorang peneliti mengatakan kepada Business Insider bahwa nama Q* menyiratkan perpaduan dua metode AI, yaitu Q-learning dan pencarian A*.

Model baru ini dapat menggabungkan pembelajaran mendalam dengan aturan yang diprogram oleh manusia. Dengan begitu, model ini lebih kuat dan serbaguna dibandingkan model AI lainnya saat ini.

Dan seperti yang sudah disebutkan, Pada dasarnya, Q* tidak hanya belajar dari data, tetapi juga menerapkan penalaran seperti manusia. Dengan demikian, model ini akan sulit untuk dikontrol atau diprediksi.

3 dari 3 halaman

Q* Menjadi Model Canggih yang Bisa Menimbulkan Permasalahan

Fungsi ChatGPT milik OpenAI. (Lputan6.com/ Yuslianson)

3. Lompatan besar menuju AGI

Q* dipandang sebagai langkah lebih dekat untuk mencapai AGI, sesuatu yang selama ini menjadi perdebatan di komunitas AI.

AGI adalah AI yang memiliki kemampuan untuk memahami, mempelajari, dan menerapkan pengetahuan ini di berbagai domain, seperti halnya kecerdasan manusia.

AGI kemungkinan besar akan melampaui kemampuan manusia di banyak bidang. Dengan demikian, hal ini dapat menimbulkan masalah pengendalian, keselamatan, dan etika.

4. Kemampuan untuk mengembangkan ide-ide baru

Q* akan menjadi tonggak sejarah karena mampu menghasilkan ide-ide baru dan memecahkan masalah bahkan sebelum masalah itu terjadi. Namun, kelemahannya adalah AI berpotensi membuat keputusan atau tindakan yang berada di luar kendali atau pemahaman manusia.

5. Konsekuensi yang tidak diinginkan dan penyalahgunaan

Kemampuan Q* yang canggih juga dapat menyebabkan kemungkinan penyalahgunaan atau konsekuensi yang tidak diinginkan apabila berada di tangan yang salam.

Atau, bahkan jika seseorang menerapkannya dengan niat baik, kompleksitas pemikiran dan pengambilan keputusan Q* dapat membawa hasil yang dapat merugikan umat manusia.