RioPatuca/Shutterstock
Kecelakaan fatal pertama yang melibatkan Tesla Autopilot telah memicu perbincangan tentang aspek keselamatan mengemudi otonom. Pada tanggal 7 Mei tahun ini, seorang anak berusia empat puluh tahun tewas ketika Model S miliknya menabrak truk tanpa pengereman dan kemudian menabrak tiang listrik. Rupanya, baik radar autopilot maupun teknologi kamera tidak dapat mendeteksi truk putih tersebut di langit Florida yang cerah atau bahkan salah mengira truk itu sebagai rambu lalu lintas. Mungkin juga ada kesalahan manusia, karena pengemudi harus tetap memegang kemudi sepanjang waktu saat autopilot berjalan dan dapat melakukan intervensi. Tesla selalu menunjukkan hal ini.
Namun meskipun keduanya Mdll. serta Mbertanya merespons dengan sempurna, mengemudi otonom menimbulkan pertanyaan moral. Pada akhirnya, situasi dapat terjadi di mana kerusakan tidak dapat dicegah dan kecerdasan buatan harus mempertimbangkan berbagai skenario yang berbeda.
Pengemudi atau pejalan kaki: hidup siapa yang lebih penting?
Haruskah mobil selalu melindungi pengemudinya dan, jika perlu, membunuh pejalan kaki agar hal tersebut bisa terjadi? Jika terjadi kecelakaan yang tidak dapat dihindari yang melibatkan pejalan kaki, haruskah pemerintah memperhitungkan ke arah mana lebih sedikit orang yang akan terluka dan secara khusus menabrak lebih sedikit orang dalam keadaan darurat? Bagaimana jika ada seorang ibu dengan seorang anak kecil di satu sisi dan lima pensiunan di sisi lain? Pertanyaan-pertanyaan ini tidak menyenangkan, tetapi kita harus menjawabnya jika ingin menggunakan teknologi baru dalam lalu lintas jalan raya.
Mahkamah Konstitusi Federal melarang penghitungan numerik nyawa manusia untuk melindungi martabat manusia. Namun autopilot perlu diberikan semacam perilaku. Karena orang bereaksi secara refleks dalam situasi darurat. Mesin tidak.
Studi menunjukkan: Orang menginginkan mobil yang bermoral — tapi tidak untuk dirimu sendiri
Distribusi kerugian secara sadar merupakan masalah dalam filsafat moral. Itu sebabnya para ilmuwan dari berbagai universitas ada di majalah tersebut “Sains” menerbitkan sebuah penelitian yang meniru etika eksperimental, di mana mereka meminta pendapat 2.000 subjek tentang tiga skenario.
Peserta diminta menjawab respon mobil mana yang mereka sukai dari sudut pandang moral. Dalam skenario A, haruskah dia menabrak seorang pejalan kaki jika hal itu dapat menyelamatkan sekelompok pejalan kaki? Dia akan dalam skenario B menabrak penghalang dan membahayakan nyawa penghuninya untuk melindungi satu orang? Bagaimana perilakunya saat dia menginginkannya dalam skenario C Bisakah seluruh kerumunan diselamatkan dengan menabrak rintangan?
Mati paling Peserta studi cenderung pada solusi utilitarian: yaitu, mereka menganggap mobil otonom berhak membunuh penumpangnya, asalkan lebih banyak orang yang selamat. 76 persen dari mereka yang disurvei percaya bahwa kendaraan harus mengorbankan nyawa satu penumpang untuk menyelamatkan sepuluh pejalan kaki. Bahkan dengan asumsi bahwa dia sendiri, sendiri atau beserta keluarganya, penumpang kendaraan kebanyakan dari mereka berpegang teguh pada keyakinan moral mereka. Namun, seiring dengan berkurangnya jumlah pejalan kaki, persetujuan atas pengorbanan diri pengemudi pun ikut berkurang.
Namun, pemikiran bahwa keluarga sendiri sebagai korban kematian yang sadar juga mengurangi keinginan untuk membeli mobil otonom secara drastis. Sekalipun para responden percaya bahwa mengorbankan penumpang kendaraan untuk melindungi orang banyak adalah hal yang benar secara moral, hampir tidak ada dari mereka yang ingin membeli kendaraan yang diprogram untuk diri mereka sendiri atau keluarga mereka. Mereka lebih suka memiliki mobil yang melindungi penumpangnya dalam segala keadaan – bahkan jika 20 pejalan kaki harus mati. Namun mereka menginginkan kendaraan yang bermanfaat bagi semua pengguna jalan lainnya.
Legislator harus menyelesaikan dilema tersebut — dan jadilah dirimu sendiri
Dilema seperti ini biasanya diselesaikan oleh badan legislatif: keputusan yang memihak mayoritas akan ditegakkan. Namun, solusi seperti itu akan mempunyai konsekuensi yang serius: peraturan utilitarian yang mengarah pada penurunan jumlah kematian akibat kecelakaan lalu lintas akan mengurangi jumlah penjualan mobil tanpa pengemudi, sehingga memperlambat transisi transportasi ke kendaraan otonom.
Ironi dari semuanya: 3.475 orang tewas di jalan raya Jerman pada tahun 2015. Di dalam 86 persen ini insiden hutangnya terletak pada Pengelola. Ini berarti bahwa orang-orang ini mungkin akan bertahan hidup dengan mobil tanpa pengemudi, tetapi mungkin tidak akan pernah membelinya jika diatur seperti yang dijelaskan di atas. Pemerintah dan produsen harus segera mempertimbangkan solusi terhadap dilema ini.