Senjata otonom adalah tahap evolusi berikutnya dalam peperangan. Ketika manusia selalu memegang kendali, kecerdasan buatan (AI) juga dapat mengambil keputusan di masa depan. Namun hal itulah yang diperingatkan oleh mantan karyawan Google yang bekerja pada program drone militer.
Laura Nolan telah bekerja untuk Google selama empat tahun ketika dia dipekerjakan untuk sebuah proyek baru: Google bekerja dengan Departemen Pertahanan AS dengan nama kode “Maven”. Perusahaan perangkat lunak telah membantu meningkatkan drone dengan kecerdasan buatan, seperti surat kabar harian berbahasa Inggris “Wali” dilaporkan. Tugas sebenarnya adalah mengajarkan drone untuk lebih mengenali target dan membedakan antara manusia dan benda.
Nolan harus memastikan bahwa programnya bekerja dengan andal. “Saya tidak secara langsung ditugaskan untuk meningkatkan pengawasan video, tapi saya masih menjadi bagian dari apa yang disebut rantai pembunuhan. Pekerjaan saya akan menyebabkan lebih banyak orang terbunuh oleh serangan pesawat tak berawak di Afghanistan,” katanya.
Namun ketakutan terbesar Nolan terfokus pada masa depan. Sejauh ini, sistem AI hanya membantu pilot drone, namun mereka akan segera dapat mengambil keputusan sendiri. “Ada kemungkinan bahwa sistem ini dapat melakukan kekejaman perang dan membunuh secara ilegal,” kata Nolan. Risiko ini meningkat jika ratusan atau ribuan mesin ini digunakan di masa mendatang.
Ada protes di Google terhadap proyek “Maven”. Ribuan karyawan menandatangani petisi menentang hal tersebut dan sekitar selusin mengundurkan diri sebagai protes. Nolan juga meninggalkan perusahaan setelah melihat “semakin banyak masalah etika,” katanya. Pada bulan Maret tahun ini, Google membiarkan kontraknya dengan Departemen Pertahanan AS berakhir.
Bahaya baru dengan drone otonom
Nolan mengkritik sistem persenjataan yang sepenuhnya otonom di masa depan karena, menurutnya, kesalahan kecil sekalipun dapat menimbulkan konsekuensi yang tidak terduga. Bahkan cuaca yang tidak biasa atau sinyal radar yang tidak terduga dapat membingungkan gemuruh pertempuran, katanya. Mungkin juga terjadi kebingungan yang serius. Drone tersebut dapat menyerang orang-orang yang membawa senjata – namun ingin berburu dan tidak berperang. “Mesin tersebut tidak memiliki penilaian dan akal sehat yang mendefinisikan manusia.”
Namun bahayanya lebih dari itu, kata Nolan: “Hanya sedikit orang yang menyadari bahwa robot pembunuh dapat secara tidak sengaja memulai perang, menyerang pembangkit listrik tenaga nuklir, atau melakukan kekejaman perang dalam skala besar.”
Nolan juga mengkritik senjata otonom semacam itu hanya bisa diuji di medan perang. “Mungkin Rusia sedang melakukannya sekarang di Suriah, siapa tahu? “Rusia menentang larangan atau pembatasan apa pun terhadap sistem senjata semacam itu.”
Belum ada negara yang mengaku sedang mengerjakan senjata robotik yang sepenuhnya otonom. Namun, banyak yang berupaya memanfaatkan AI yang ditingkatkan untuk militer mereka. Angkatan Laut AS memiliki kapal perang self-propelled yang dapat bertahan di laut selama berbulan-bulan tanpa awak. Pemerintah Israel mengklaim bahwa drone-nya saja yang dapat mengidentifikasi dan menyerang sasaran – namun sejauh ini masih ada tentara yang harus mengonfirmasi perintah terakhir.
Baca juga: Inilah 9 Kekuatan Nuklir Terbesar di Dunia – Dua di antaranya menyimpan misteri
Setelah pengalamannya, Nolan menjadi aktivis dan terlibat dalam asosiasi “Kampanye untuk Menghentikan Robot Pembunuh”, yang menganjurkan larangan robot tempur otonom. Dia mengatakan sistem senjata seperti itu harus dilarang, serupa dengan senjata kimia.
Sejak Agustus 2018, perwakilan banyak negara telah membahas pembatasan senjata otonom di Jenewa di bawah kepemimpinan PBB. Negara-negara seperti Rusia, AS, Israel, dan Tiongkok tampaknya tidak tertarik dengan hal ini dan menentang peraturan yang efektif.
Artikel ini diterjemahkan dari bahasa Inggris dan diedit oleh Tobias Heimbach. Anda dapat menemukan yang asli di sini.