Risiko hidup yang penuh dengan kecerdasan buatan telah lama menjadi perhatian para aktivis dan ilmuwan. Sebuah video peringatan brutal tentang konsekuensi senjata otonom bagi umat manusia saat ini sedang menimbulkan sensasi. Film tersebut diberi judul pada acara PBB pada hari Senin Konvensi Senjata Konvensional diselenggarakan oleh kelompok aktivis bernama Kampanye Menghentikan Robot Pembunuh.
Yang Inggris “Wali” mengedit bagian video dan mempostingnya secara online:
Dalam klip tersebut, sebuah perusahaan besar memperkenalkan penemuan terbarunya: senjata kecil yang dapat menghancurkan target secara efisien dan, yang terpenting, sepenuhnya otomatis. Namun artikel film di bagian akhir memperjelas apa yang akan terjadi jika teknologi canggih tersebut jatuh ke tangan yang salah: Menurut artikel berita fiksi tersebut, total 8.300 siswa tewas.
Stuart Russell, salah satu ilmuwan AI terkemuka di Universitas California, percaya bahwa senjata semacam itu dapat dikembangkan dengan menggunakan sumber daya yang ada.
Militer adalah sumber pendanaan terbesar untuk penelitian AI
Russell sendiri memposisikan dirinya sebagai penentang keras teknologi ini. Militer saat ini merupakan donor terbesar untuk penelitian kecerdasan buatan. Misalnya, teknologi ini menggantikan patroli manusia saat dikerahkan. Robot sekarang mampu memindai target lebih baik daripada yang bisa dilakukan oleh seorang prajurit.
Berbeda dengan “binatang pembunuh” dalam film tersebut, drone militer ini masih dikendalikan dari jarak jauh: sebaliknya, senjata otonom berada di luar kendali manusia. Kritikus melihat ini jelas merupakan pelanggaran prinsip moral. Oleh karena itu, mereka menyerukan perjanjian transnasional yang menentang produksi massal.
Penyalahgunaan dikhawatirkan
Tuntutan akan kemungkinan pembatasan bukanlah hal baru: pada bulan Agustus, lebih dari 100 pionir dan ilmuwan AI terkemuka di dunia, termasuk bos Tesla Elon Musk, meminta PBB untuk menerapkan pembatasan yang sesuai. Noel Sharkey, profesor AI di Universitas Sheffield, menunjukkan potensi bahaya sepuluh tahun lalu.
Ketakutan terbesar seputar senjata otonom berkaitan dengan konsekuensi potensial dari “penyerahan” teknologi tersebut kepada “negara-negara nakal”. Menurut kampanye tersebut, beberapa negara kuat seperti Tiongkok, Amerika Serikat dan Rusia sudah mempersiapkan apa yang disebut “revolusi ketiga” dalam peperangan. Bagaimanapun, PBB tampaknya bukan badan yang cocok untuk menghentikan semua ini. Film baru ini kini dapat membantu menarik lebih banyak perhatian media terhadap subjek tersebut.