Ini adalah mimpi buruk bagi setiap pengemudi: seorang pejalan kaki tiba-tiba menyeberang jalan – hanya tersisa sepersekian detik untuk menghindari kecelakaan fatal. Berdasarkan hukum Jerman, pengemudi atau pemilik mobil pada umumnya bertanggung jawab jika terjadi kecelakaan. Namun bagaimana jika pengemudinya adalah sebuah mesin dan orang yang berada di belakang kemudi hanyalah seorang penumpang?
Kecelakaan serupa terjadi pada bulan Maret di AS dengan mobil robot dari layanan perjalanan Uber. Seorang pria berusia 49 tahun terbunuh dan pertanyaan tentang kesalahannya belum jelas. Pesatnya kemajuan kecerdasan buatan (AI) juga menjadi perhatian para pengacara di Eropa. Pertanyaan-pertanyaan sekarang sedang dibahas dalam hukum pertanggungjawaban yang setiap orang anggap sebagai fiksi ilmiah dua puluh tahun yang lalu.
Hal ini juga mempunyai arti bagi perusahaan asuransi yang membayar jika terjadi kecelakaan. “Mesin dengan algoritma pembelajaran akan semakin mengambil alih tugas mengemudi di dalam mobil dan secara bertahap menggantikan kelalaian manusia,” kata Joachim Müller, kepala asuransi properti di Allianz Jerman. “Mesin saat ini tidak dapat dimintai pertanggungjawaban secara hukum atas konsekuensi tindakan mereka.”
Hingga saat ini, pengelola atau pemilik pada umumnya bertanggung jawab. Produsen mobil hanya dapat bertanggung jawab secara hukum jika cacat produksi menyebabkan kecelakaan.
Namun kecerdasan buatan di belakang kemudi memungkinkan terjadinya kecelakaan yang tidak disebabkan oleh kesalahan teknis, namun komputer hanya membuat keputusan yang salah. Perangkat lunak pembelajaran mandiri hampir secara otomatis dapat mengenali dan merespons pola dan situasi berdasarkan data yang dimasukkan sebelumnya. “Tampaknya sulit bagi saya untuk menyalahkan program – terlepas dari apakah program tersebut secara eksklusif mengikuti algoritma tertentu atau berkembang secara independen,” kata anggota dewan Allianz, Müller.
Perdebatannya bukan hanya tentang mobil robot. Sudah dibahas apakah mesin AI secara umum harus diberi kepribadian hukumnya sendiri. Maka kecerdasan buatan pada dasarnya dapat mengambil tanggung jawab untuk dirinya sendiri. Parlemen Eropa merekomendasikan agar Komisi UE memikirkan hal ini pada awal tahun 2017.
Namun ada alasan praktis yang menentang hal ini: sebuah mesin tidak memiliki akun, seseorang atau perusahaan di baliknya harus selalu bertanggung jawab.
Dan pertanyaan yang lebih luas lagi akan muncul: Jika sebuah mesin dapat dimintai pertanggungjawaban berdasarkan hukum perdata, bukankah hukum pidana juga harus diubah? “Apakah mobil self-driving akan terkurung di garasi? Dihapus?” tanya manajer Allianz, Müller.
Mesin kriminal di penjara tetap menjadi fiksi ilmiah untuk saat ini. Namun bukankah produsen mobil harus bertanggung jawab atas kecelakaan yang disebabkan oleh komputer? “Badan legislatif dapat memikirkannya,” kata pengacara Stephan Lorenz, ketua hukum perdata dan hukum perdata internasional di Universitas Ludwig Maximilians di Munich. “Secara pribadi, menurut saya itu tidak masuk akal, karena sudah menjadi kebiasaan bahwa pabrikan bertanggung jawab atas cacat produk.”
Lorenz berpendapat bahwa peraturan yang ada saat ini sudah cukup: “Dari sudut pandang hukum, tidak perlu ada revolusi. Menurut situasi hukum saat ini, pemilik bertanggung jawab atas kerusakan yang disebabkan oleh kendaraannya di lalu lintas jalan raya. “Karena potensi bahayanya, prinsip tanggung jawab ketat berlaku di sini.”
Artinya, operator bertanggung jawab atas pengoperasian mesin dan sistem tertentu yang berpotensi membahayakan – termasuk mobil, kereta api, pesawat terbang, dan pembangkit listrik tenaga nuklir. “Kewajiban ini cukup meskipun mobil dapat berjalan sendiri,” kata pengacara Lorenz.
Menurut Kementerian Kehakiman Federal, saat ini tidak diperlukan tindakan apa pun. Peraturan tentang mengemudi otomatis baru dimasukkan dalam Undang-Undang Lalu Lintas Jalan pada tahun 2017. “Sejauh ini kami tidak melihat alasan mengapa kami harus mengubah rangkaian tanggung jawab yang telah dicoba dan diuji,” kata seorang juru bicara.
Namun seiring kemajuan teknologi yang pesat, kata terakhir masih jauh dari kata terucap. Selain itu, di Amerika Serikat, saat ini produsen hanya bertanggung jawab atas kesalahan produksi. Namun lembaga pemikir Institut Reformasi Hukum AS baru-baru ini berpendapat bahwa prinsip ini tidak lagi tepat – karena perangkat lunak AI belajar dan berubah setelah dijual.
Perusahaan asuransi Allianz meminta setidaknya undang-undang tentang penggunaan kecerdasan buatan harus dipertimbangkan. “Undang-undang ini harus memuat ketentuan tanggung jawab yang ketat,” kata bos asuransi properti Müller. Artinya, AI harus dianggap secara hukum sama seperti mobil dan pembangkit listrik tenaga nuklir: berpotensi berbahaya.
dpa