Kepala AI Google: Risiko AI Sama Seriusnya dengan Krisis Perubahan Iklim

Liputan6.com, Jakarta - Dunia harus memperlakukan risiko dari kecerdasan buatan (AI) sama seriusnya dengan krisis perubahan iklim dan tidak bisa menunda responnya, demikian kata seorang pakar AI, dikutip dari The Guardian, Minggu (29/10/2023).

Kepala eksekutif unit AI Google di Inggris Demis Hassabis mengatakan bahwa pengawasan industri AI dapat dimulai dengan sebuah badan yang mirip dengan Panel Antarpemerintah tentang Perubahan Iklim (IPCC).

Hassabis juga mengatakan, dunia harus segera bertindak untuk mengatasi bahaya teknologi ini, termasuk membantu pembuatan senjata biologis dan ancaman eksistensial yang ditimbulkan oleh sistem super-cerdas.

Ia menambahkan, seharusnya orang-orang menghadapi risiko AI ini sama seriusnya dengan tantangan global utama lainnya, seperti perubahan iklim

"Butuh waktu lama bagi komunitas internasional untuk mengkoordinasikan respons global yang efektif terhadap hal ini, dan kita hidup dengan konsekuensinya sekarang. Kita tidak boleh mengalami penundaan yang sama dengan AI," katanya.

Meskipun AI adalah penemuan yang paling inovatif, ia mengatakan diperlukan sebuah rezim pengawasan dan pemerintah harus mengambil inspirasi dari struktur internasional seperti IPCC.

"Saya pikir kita harus mulai dengan sesuatu seperti IPCC, yang merupakan perjanjian ilmiah dan penelitian dengan laporan, dan kemudian membangun dari sana," ujarnya menambahkan.

"Kemudian apa yang ingin saya lihat pada akhirnya adalah setara dengan Cern untuk keamanan AI yang melakukan penelitian tentang hal itu - tetapi secara internasional. Dan mungkin suatu hari nanti akan ada semacam badan yang setara dengan IAEA, yang benar-benar mengaudit hal-hal ini," ucapnya.

Badan Energi Atom Internasional (IAEA) adalah badan PBB yang mempromosikan penggunaan teknologi nuklir yang aman dan damai dalam upaya mencegah proliferasi senjata nuklir, termasuk melalui inspeksi.

Namun, Hassabis mengatakan bahwa tidak ada analogi peraturan yang digunakan untuk AI yang "dapat diterapkan secara langsung" pada teknologi ini.

2 dari 5 halaman

Ide Badan Pengawasan AI

Forum Kecerdasan Buatan — Pekan ini, Kongres Amerika Serikat telah mengadakan tiga pertemuan berbeda mengenai AI. Di dalamnya mengatur ketentuan penggunaan AI, termasuk memberi watermark pada konten yang dihasilkan AI. (AP Photo/Jacquelyn Martin)

Minggu lalu, Eric Schmidt, mantan kepala eksekutif Google, dan Mustafa Suleyman, salah satu pendiri DeepMind, menyerukan pembentukan panel gaya IPCC tentang AI.

Meskipun para pejabat Inggris mendukung langkah tersebut, namun mereka berpendapat bahwa pembentukannya harus dilakukan di bawah naungan PBB.

Hassabis mengatakan bahwa AI dapat membawa peluang luar biasa di berbagai bidang seperti kedokteran dan sains, namun ia mengakui adanya kekhawatiran seputar teknologi tersebut.

Kekhawatiran tersebut berpusat pada kemungkinan pengembangan kecerdasan umum buatan (artificial general intelligence/AGI) - sistem dengan tingkat kecerdasan manusia atau di atas manusia yang dapat menghindari kontrol manusia.

Hassabis adalah salah satu penandatangan surat terbuka pada Mei 2023 yang memperingatkan bahwa ancaman kepunahan akibat AI harus dianggap sebagai risiko yang setara dengan pandemi dan perang nuklir.

"Kita harus memulai pemikiran dan penelitian itu sekarang. Maksud saya kemarin, sungguh," katanya.

"Itulah mengapa saya menandatangani, dan banyak orang menandatangani, surat itu. Itu karena kami ingin memberikan kredibilitas bahwa itu adalah hal yang masuk akal untuk didiskusikan," ucapnya mengimbuhi.

3 dari 5 halaman

Bahaya AGI

Peristiwa tunggal pemusnah manusia (5) — Ilustrasi kerjasama manusia dengan mesin kecerdasan buatan (AI). (Sumber Pixabay)

Beberapa orang dalam industri teknologi khawatir bahwa AGI atau AI yang seperti dewa mungkin akan muncul beberapa tahun ke depan.

Hassabis mengatakan bahwa dunia masih jauh dari sistem AGI yang sedang dikembangkan, namun "kita bisa melihat jalan menuju ke sana, jadi kita harus mendiskusikannya sekarang".

Dia mengatakan bahwa sistem AI saat ini, “Tidak memiliki risiko, tetapi beberapa generasi berikutnya mungkin akan memiliki kemampuan ekstra seperti perencanaan dan memori serta hal-hal lain... Sistem ini akan menjadi fenomenal untuk kasus penggunaan yang baik, tetapi juga memiliki risiko."

Pertemuan pada tanggal 1 dan 2 November 2023 di Bletchley Park akan berfokus pada ancaman sistem AI canggih yang membantu menciptakan senjata biologis, melakukan serangan siber yang melumpuhkan, atau menghindari kontrol manusia.

Hassabis akan menjadi salah satu pembicara, bersama dengan para kepala eksekutif perusahaan AI terkemuka termasuk OpenAI, yang merupakan pengembang ChatGPT asal San Francisco.

Unit Hassabis telah mencapai terobosan signifikan dalam teknologi AI seperti menciptakan program AI AlphaGo yang mengalahkan pemain terbaik dunia di Go, sebuah permainan papan asal Tiongkok.

Kemudian juga proyek AlphaFold yang memprediksi bagaimana protein melipat menjadi bentuk 3D, sebuah proses yang telah membuka jalan bagi terobosan di berbagai bidang kesehatan termasuk mengatasi penyakit.

4 dari 5 halaman

AI Berguna untuk Sains

Hassabis mengatakan bahwa ia optimis dengan AI karena potensinya untuk merevolusi bidang-bidang seperti kedokteran dan sains, tetapi jalan tengah perlu ditemukan untuk mengelola teknologi tersebut.

AI telah melejit dalam agenda politik setelah rilis ChatGPT tahun lalu, sebuah chatbot yang menjadi sensasi karena kemampuannya untuk menghasilkan respons teks yang sangat masuk akal terhadap perintah yang diketikkan oleh manusia.

Alat penghasil gambar AI seperti Midjourney juga telah mengejutkan para pengamat dengan menciptakan gambar-gambar yang realistis, dikhawatirkan dapat menjadi alat bagi orang jahat untuk memproduksi disinformasi secara massal.

Ketakutan tersebut telah memicu kekhawatiran tentang potensi kekuatan model AI generasi berikutnya. Hassabis mengatakan bahwa dia membayangkan sistem gaya Kitemark untuk model-model yang muncul.

Tahun ini, pemerintah Inggris meluncurkan gugus tugas Frontier AI, yang bertujuan untuk membuat pedoman untuk menguji model AI mutakhir dan dapat menjadi tolok ukur untuk upaya pengujian tingkat internasional.

Hassabis mengatakan, "Saya bisa membayangkan di masa depan Anda akan memiliki baterai dengan 1.000 pengujian, atau bisa juga 10.000 pengujian, dan kemudian Anda mendapatkan Kitemark keamanan dari itu."

5 dari 5 halaman