- Manipulasi piksel dapat menyebabkan penilaian yang salah dalam sistem AI pada mobil otonom, lapor “Hei Online”.
- Para peneliti di Universitas Tübingen dan Max Planck Institute for Intelligent Systems mampu membuktikan hal ini dengan menggunakan uji laboratorium.
- Dalam pengujian tersebut, AI salah mengartikan rambu berhenti sebagai batas kecepatan, sehingga dapat menimbulkan bahaya bagi penumpang mobil.
Mengemudi otonom dirancang untuk merevolusi mobilitas. Produsen mobil terus melaporkan keberhasilan baru di bidang ini, sehingga menciptakan semangat optimisme di industri ini. Masa depan mobil self-driving sepertinya sudah dekat, namun masalah teknis masih menimbulkan pertanyaan tentang keselamatan.
Salah satu komponen teknis yang penting dan rentan ini adalah AI pengenalan gambar, yang dimaksudkan untuk mengenali rambu-rambu jalan, dll. memindai dan mengenali selama mengemudi otonom. Jika kecerdasan buatan membuat kesalahan di sini dan salah mengartikan tanda berhenti sebagai batas kecepatan, misalnya, hal ini dapat berbahaya dan menyebabkan kecelakaan.
Para peneliti di Universitas Tübingen, bekerja sama dengan Max Planck Institute for Intelligent Systems, telah membuktikan bahwa stiker kecil sekalipun pada rambu jalan dapat membingungkan pengenalan gambar dan evaluasi gerakan sistem AI, lapor “Hei Online”.
Baca juga
Manipulasi piksel ini hampir tidak disadari oleh pengemudi, namun para peneliti telah mengetahuinya sejak lama. AI belum memiliki pemahaman manusia tentang apa itu anjing dan apa itu kucing. Selama fase pelatihan, dia diajarkan untuk mengurutkan data piksel dan kemudian memutuskan objek mana itu.
Dalam kasus tertentu, stiker atau kotoran pada rambu jalan dapat menyebabkan kesalahan penilaian dalam sistem, yang juga dapat dieksploitasi dengan cara yang ditargetkan. Dalam makalah penelitian Wieland Brendel, pakar AI di Bethge Lab di Universitas Tübingen, dan rekan-rekannya, sistem AI mengalami gangguan tertentu. Dalam 85 persen dari semua kasus, tanda berhenti disalahartikan sebagai batas kecepatan, lapor “Heise Online”.
Manipulasi oleh pihak luar tidak bisa dikesampingkan
Berdasarkan hasil peneliti, tidak hanya pengenalan gambar, tetapi juga penentuan gerakan kemudian dapat dibatasi. Hasil pengujian algoritma penelitian telah diteruskan ke industri otomotif. Namun, tidak mudah untuk melihat peta dan merahasiakan algoritmanya sendiri.
Baca juga
Menurut para peneliti, serangan terhadap mobil self-driving oleh pihak luar tidak mungkin terjadi, namun bukan tidak mungkin. Pola tertentu dapat membingungkan pengenalan piksel pada sistem AI, sehingga membahayakan penumpang mobil, mereka memperingatkan.