Liputan6.com, Las Vegas, Nevada Lebih dari 1000 orang peneliti bidang robotika dan kecerdasan buatan (artificial intelligence, disingkat AI) telah menandatangani sebuah surat terbuka sebagai bentuk petisi kepada Perserikatan Bangsa Bangsa (PBB). Prakarsa itu dirangkum oleh sebuah lembaga nirlaba Future of Life Institute yang intinya mendesak PBB untuk memberlakukan larangan pengembangan AI yang dilengkapi kemampuan untuk membidik dan membunuh tanpa kendali manusia.
Surat itu dipaparkan dalam Konferensi Internasional dalam Kecerdasan Buatan (International Conference on Artificial Intelligence, disingkat IJCAI) tahun 2015. Petisi itu didukung oleh para peneliti besar dan pemimpin di kalangan industri, termasuk Stephen Hawking, Elon Musk, Steve Wozniak, dan Noam Chomsky.
Advertisement
Bagi segelintir orang, robot bersenjata yang bersifat otonom merupakan konsep yang asyik di bidang permainan video dan fiksi ilmiah (science fiction). Namun, peringatan yang tercantum dalam surat terbuka itu mengatakan bahwa teknologi tersebut akan hadir hanya dalam hitungan tahun, dan harus ada tindakan yang diambil sekarang jika kita ingin mencegah terjadinya revolusi ketiga perang modern.
Coba bayangkan pengaruhnya. Menurut surat terbuka itu, banyak pihak memandang robot yang dipersenjatai merupakan revolusi ketiga dalam perang modern setelah mesiu dan senjata nuklir. Meskipun begitu, dalam penggunaan mesiu dan senjata nuklir, selalu ada usaha untuk membatasi dan menghentikan dua alat perang itu.
Ketika senapan digunakan dalam medan perang, diperlukan seorang prajurit untuk menggunakannya, sehingga sang prajurit harus berhadapan dengan sebuah risiko. Terkait urusan senjata nuklir, diperlukan usaha yang mahal dan rumit untuk mendapatkan bahan dan mempelajari keahlian membuatnya. Selain itu, banyaknya korban jiwa dan kecaman internasional menjadi ancaman yang jelas sama-sama memusnahkan (mutually assured destruction, disingkat MAD).
Bahaya mesin perang AI yang sesungguhnya adalah hilangnya alasan untuk menghentikan perang. AI tidak harus `kehilangan nyawa` di medan perang layaknya manusia, dan penggunaannya tidak mengundang kemarahan dunia internasional separah penggunaan rudal nuklir. Selain itu, merujuk kepada surat terbuka yang dilayangkan tersebut, harga drone AI dengan kemampuan untuk memburu dan membunuh tanpa kendali manusia telah semakin murah dan bisa diproduksi secara massal.
Teknologi ini akan membuat urusan militer menjadi lebih murah dan menarik, sehingga menghilangkan halangan untuk berperang. Bukan hanya itu, sebentar lagi tampaknya keputusan untuk membunuh tidak lagi memerlukan empati dan akal budi manusia karena mesinlah yang akan melakukannya.
Sisi mengerikan lainnya dari AI bersenjata adalah kemungkinan jatuhnya teknologi ini ke tangan pemerintah atau kelompok-kelompok ekstrem yang tidak ragu-ragu untuk menggunakan mesin-mesin pembunuh ini untuk membungkam lawan, atau bahkan melakukan pembersihan etnis.
Toby Walsh, profesor bidang AI di University of New South Wales (UNSW) dan NICTA mengatakan, “Banyak ilmuwan terkemuka di bidang kami memberikan dukungan mereka untuk alasan kemanusiaan ini.” Ia menambahkan, “Dengan surat ini, kami mengharapkan munculnya kesadaran akan suatu hal yang, tidak salah lagi, akan menimbulkan dampak mengerikan terhadap umat manusia. Kita dapat memperbaikinya sejak awal atau hanya berdiam diri menyaksikan lahirnya regulasi perang baru.”
Akhirnya, ia menyimpulkan, “Sejujurnya, ini bukanlah sesuatu yang ingin kita saksikan. Ajakan kami sederhana saja: laranglah penggunaan senjata-senjata penyerang yang otonom, dan kita akan dapat menyelamatkan masa depan kita semua.”
