Sekelompok pakar kecerdasan buatan telah menandatangani surat terbuka kepada Amazon yang meminta perusahaan tersebut untuk mengubah… Perangkat lunak pengenalan wajah “Pengenalan” tidak lagi menjualnya ke polisi.
Penandatangannya termasuk peneliti dari perusahaan teknologi besar seperti Facebook, Microsoft dan Google, serta perusahaan AI DeepMind dan OpenAI. Mantan ilmuwan senior di Amazon Web Services, Anima Anandkumar, juga menandatangani surat tersebut.
“Kami menyerukan Amazon untuk berhenti menjual perangkat lunak pengenalan wajah kepada penegak hukum karena kurangnya undang-undang dan perlindungan untuk mencegah penyalahgunaan,” tulis para penandatangan, mengutip pelanggaran hak-hak sipil sebagai konsekuensi yang mungkin terjadi.
Ketidakakuratan AI
Surat tersebut adalah bagian dari perselisihan yang sedang berlangsung antara para ahli dari luar yang khawatir bahwa perangkat lunak pengenalan wajah Rekognition Amazon menunjukkan bias dan para ilmuwan Amazon yang membantah klaim tersebut.
Perdebatan ini dipicu pada bulan Januari tahun ini oleh sebuah studi yang dilakukan oleh para peneliti di Institut Teknologi Massachusetts dan Universitas Toronto. Ditemukan bahwa perangkat lunak pengenalan wajah Amazon memiliki ketidakakuratan dalam mendeteksi wanita dan orang dengan warna kulit lebih gelap ketika memutuskan apakah suatu gambar adalah laki-laki atau perempuan.
Matt Wood, direktur pelaksana kecerdasan buatan di Amazon Web Services, dan Michael Punke, wakil presiden hubungan masyarakat di perusahaan tersebut, menanggapi dengan serangkaian postingan blog yang menyebut penelitian tersebut “menyesatkan.”
Surat terbuka Rabu lalu membantah keberatan Woods dan Punke dan menyimpulkan bahwa tanggapan mereka terhadap diskusi profesional mengenai masalah ini “mengecewakan”.
Para penandatangan menunjuk pada hasil penelitian, yang menemukan bahwa perangkat lunak Amazon memiliki tingkat kesalahan sekitar 31 persen ketika mengidentifikasi perempuan kulit berwarna. Ada juga masalah dengan klasifikasi gender, karena gender non-biner dikecualikan oleh perangkat lunak. Selain itu, para penandatangan menunjukkan bahwa Amazon tidak memberikan informasi tentang pelanggan Rekognition dan tingkat kesalahan untuk berbagai demografi, dan perangkat lunak tersebut juga tidak tunduk pada audit eksternal.
Baca juga: Dengan tes ini Anda akan mengetahui apakah Anda seorang super pengenal – dan apakah Anda mengenali wajah lebih baik daripada orang lain
Organisasi hak-hak sipil American Civil Liberties Union sebelumnya menyuarakan keprihatinan tentang Rekognition dan menguji perangkat lunak tersebut: Selama pengujian, Rekognition secara keliru mengidentifikasi 28 anggota Kongres AS sebagai orang yang baru saja ditangkap. Pernyataan palsu ini terutama ditujukan kepada orang kulit berwarna.
“Jika penegak hukum menggunakan perangkat lunak pengenalan wajah Amazon, tidak sulit membayangkan betapa berprasangka buruknya seorang petugas polisi – yang diberi tahu bahwa seseorang telah ditangkap karena kepemilikan senjata sebelumnya – bahkan sebelum pertemuan awal.
Atau penegak hukum tiba-tiba muncul di depan pintu seseorang karena identitas palsu dan ingin mengajukan pertanyaan atau menggeledah rumah.” tulis American Civil Liberties Union dalam sebuah postingan blog pada saat itu.
Amazon membantah tuduhan tersebut
Terkait pengujian yang dilakukan, Amazon mengatakan bahwa pengaturannya tidak diatur dengan benar, terutama pada “peringkat kerahasiaan” seseorang yang ditampilkan oleh perangkat lunak tersebut.
Karena Amazon telah menyuarakan kritik serupa terhadap studi MIT, surat terbuka tersebut mengangkat argumen ini. Para penandatangan menunjukkan bahwa perangkat lunak seperti Rekognition perlu diuji dalam skenario kehidupan nyata dan bahwa pasukan polisi tidak dilatih untuk menggunakan perangkat lunak tersebut dengan benar dan menggunakan “peringkat kerahasiaan”.
Surat itu mengutip artikel dari blog teknologi Gizmododi mana seorang petugas polisi setempat di Washington County mengatakan bahwa polisi di sana “tidak boleh menetapkan atau menggunakan batas kepercayaan (…).”
Amazon tidak segera menanggapi permintaan komentar dari Business Insider.
Teks ini diterjemahkan dari bahasa Inggris oleh Nora Bednarzik.