Bubuk mesiu dan senjata nuklir dianggap sebagai tonggak sejarah dalam teknologi peperangan modern. Kini tibalah perubahan besar berikutnya dalam peperangan – sistem senjata otonom dan kecerdasan buatan.

Apa yang dulunya menjadi subjek film fiksi ilmiah yang tak terhitung jumlahnya kini menjadi kenyataan. Melawan robot, drone, dan kendaraan otonom – industri senjata internasional terus berkembang. Dan kemajuan teknologi pun ikut berkembang.

Keputusan yang mematikan — dapatkah mesin bertindak secara etis?

Hingga pada akhirnya, hanya rakyatlah yang mengambil alih kekuasaan pengambilan keputusan di medan perang. Hal ini akan berubah di masa depan – setidaknya itulah prediksinya. Dengan semakin majunya perkembangan kecerdasan buatan, proses pengambilan keputusan mungkin juga akan dilakukan oleh mesin atau robot di masa depan, lapor “Süddeutsche Zeitung”.

Pertanyaan tentang konsepsi etis robot semacam itu kemudian muncul. Tidak ada norma hukum mengenai konteks hukum yang mendasari pengambilan keputusan berdasarkan algoritma. Sementara itu, di Jenewa, negara-negara yang secara aktif meneliti kecerdasan buatan (termasuk untuk tujuan perang) sedang menegosiasikan sejauh mana sistem senjata otonom harus mematuhi peraturan internasional. Kemungkinan besar akan ada konsensus umum: “Sistem senjata otonom harus sesuai dengan hukum internasional,” kata ketua perundingan PBB, Duta Besar India Amandeep Singh Gill, di Jenewa.

Oleh karena itu, setiap keputusan yang diambil oleh kecerdasan buatan harus ditelusuri kembali ke manusia sebagai orang yang bertanggung jawab – terutama dalam hal pengambilan keputusan yang mematikan. Dalam perjanjian koalisi, pemerintah Jerman setuju untuk dengan tegas menolak sistem senjata otonom jika “sistem tersebut berada di luar kendali manusia.”

Perwakilan dari banyak negara meragukan bahwa prinsip-prinsip ini akan dipatuhi secara konsisten dalam pertempuran sebenarnya.

Kecerdasan buatan dapat mengubah peperangan secara mendasar

Ketika Inggris pertama kali menggunakan tank pada Perang Dunia I, hal ini secara radikal mengubah sifat peperangan. Dengan dibangunnya sistem persenjataan otonom, peperangan akan mempunyai dampak yang lebih besar.

Para penentang teknologi baru ini mengatakan bahwa robot pembunuh akan memungkinkan “konflik bersenjata terjadi dalam skala yang belum pernah terjadi sebelumnya dan lebih cepat dari yang dapat dipahami manusia,” demikian isi surat terbuka dari ratusan peneliti dan pakar kecerdasan buatan yang diterbitkan pada tahun 2015. Bos Tesla Elon Musk, salah satu pendiri Apple Steve Wozniak, dan mendiang fisikawan Stephen Hawking termasuk di antara para penandatangan.

Para pendukung teknologi berpendapat bahwa jika ragu, mesin tidak akan mengambil keputusan demi kepentingan diri sendiri. Berbeda dengan manusia, kecerdasan buatan selalu menggunakan perhitungan objektif sehingga lebih cocok untuk melindungi kehidupan manusia.

Kemajuan teknologi tidak dapat dihentikan, bahkan dalam kondisi ekonomi perang. Saat ini penting untuk menentukan kerangka konsep dan penggunaan sistem senjata otonom. Politik sangat dibutuhkan – inovasi-inovasi penting terakhir di masa perang telah memakan korban jiwa yang tak terhitung jumlahnya.