Kendaraan otonom harus mengemudi lebih aman dibandingkan manusia yang menggunakan kecerdasan buatan. Namun apa jadinya jika AI menghadapi dilema – atau bahkan gagal?
Ketika sebuah mobil otonom dari perusahaan Amerika Uber melukai seorang pejalan kaki secara fatal dalam sebuah kecelakaan di Arizona beberapa bulan lalu, ada protes keras di media. Mobil robot adalah “kendaraan pembunuh” yang tidak boleh menggantikan manusia. Kecelakaan itu adalah contoh bagaimana kecerdasan buatan akan membahayakan nyawa manusia jika dilakukan tanpa emosi. Dia tidak memiliki hati nurani. Tiba-tiba ada pembicaraan tentang pelarangan sistem seperti itu.
Faktanya, perangkat lunak Uber tidak merespons peringatan sensor. Mengapa hal ini bisa terjadi masih dievaluasi. Penentang kecerdasan buatan dan mengemudi otonom segera melukiskan skenario horor di dinding: di masa depan, hanya mobil yang akan mengambil keputusan apakah orang yang lewat atau pengemudinya sendiri akan meninggal. Jadi apakah para pengemudi akan segera menjadi personel yang dapat dipertukarkan untuk mobil mereka, yang memutuskan antara hidup dan mati?
Filsuf Julian Nida-Rümelin melihat sangat berbeda. “Mobil tidak dapat memutuskan apa pun di sini. Ada tradisi rasionalis dalam etika modern yang berasumsi bahwa selalu ada solusi terbaik. Tapi menurutku ini salah. Sebaliknya, kita mendapati diri kita berada dalam situasi dilematis klasik.” Komisi Etik Kementerian Perhubungan, yang dibentuk pada periode legislatif terakhir, telah mulai berlaku laporan mereka Namun, hasilnya sedikit berbeda. Dalam situasi berbahaya, nyawa manusia selalu diutamakan daripada kerusakan harta benda. Kedengarannya logis, namun hal ini juga menimbulkan pertanyaan apakah mobil harus mengambil tindakan mengelak jika terjadi kecelakaan. Menurut logika ini, kecelakaan dengan mobil yang diparkir lebih disukai daripada anak-anak – dengan konsekuensi bagi pengemudinya.
Alexander Mankowsky, futuris di Daimler, punya pendapat berbeda. Ia yakin mobil otonom tidak bisa berbuat apa-apa selain mengerem. Kecelakaan selalu berarti kehilangan kendali total. Tidak ada seorang pun yang dapat meramalkan semua akibat yang mungkin timbul dari suatu kecelakaan, bahkan pada saat kecelakaan itu terjadi. Oleh karena itu, ini adalah satu-satunya tugas yang harus dilakukan mobil otonom jika terjadi tabrakan. Mobil harus mengurangi energi tumbukan secepat mungkin, namun dalam keadaan apa pun mobil tidak boleh berbelok atau melakukan hal lain.
Etika itu penting, begitu pula kemajuan
Hal ini segera menjadi jelas: Anda tidak bisa begitu saja mentransfer prinsip-prinsip etika yang ada ke kecerdasan buatan. Mungkin sudah menjadi prinsip bagi semua masyarakat di dunia bahwa kehidupan manusia layak untuk dilindungi. Namun terdapat perbedaan pendapat mengenai sejauh mana perlindungan ini dapat dilakukan. Haruskah AI mengetahui nuansa penerimaan sosial jika terjadi kematian?
Fakta bahwa diskusi terjadi sebelum mobil pertama dengan autopilot standar diluncurkan adalah hal yang disambut baik. Namun, kita tidak boleh terjebak dalam kepanikan anti-teknologi mengenai hal ini. Tidak dapat disangkal bahwa kendaraan otonom akan mencegah sebagian besar kecelakaan saat ini. Sekitar 80 persen dari seluruh kecelakaan disebabkan oleh kesalahan manusia. Pengemudi terganggu, lelah, kewalahan dan, sayangnya, sering mabuk. Hal ini tidak terjadi pada AI. Selain itu, waktu respons AI jauh lebih cepat dibandingkan manusia. Jadi AI pada mobil otonom akan menyelamatkan lebih banyak nyawa.
Namun kini kita dapat menentukan dasar etis yang menjadi dasar pengambilan keputusannya. Komisi Etik telah membuat dasar untuk hal ini. Hal ini memberi para pengembang prinsip panduan tanpa memperlambat mereka secara teknologi. Kecerdasan buatan akan menjadi salah satu pendorong utama sektor ekonomi baru, tidak hanya pada mobil. Aturan penting bagi mereka, tetapi mereka tidak boleh mengenakan korset yang terlalu ketat.
Don Dahlmann telah menjadi jurnalis selama lebih dari 25 tahun dan berkecimpung di industri otomotif selama lebih dari sepuluh tahun. Setiap hari Senin Anda dapat membaca kolom “Triekkrag” miliknya di sini, yang membahas secara kritis industri mobilitas.