Kecerdasan buatan bersifat bias, dapat bersifat rasis, dan proses di baliknya tidak transparan. Setidaknya itulah yang diklaim oleh dua ilmuwan Amerika.
Kecerdasan buatan tidak hanya harus mempunyai manfaat. Pendapat ini diungkapkan oleh Kate Crawford, humas dan ilmuwan yang bertanggung jawab di departemen riset Microsoft, dan Meredith Whittaker, kepala Google Research Group. Keduanya mendirikan AI Now Institute di Universitas New York dua tahun lalu dan mengeksplorasi signifikansi sosial, politik, dan etika dari kecerdasan buatan.
Dalam sebuah wawancara dengan jurnalis Recode, Kara Swisher, para peneliti Amerika berbicara tentang pertanyaan moral yang harus ditanyakan oleh para politisi, manajer perusahaan, dan pihak berwenang pada diri mereka sendiri jika mereka ingin menggunakan sistem data cerdas. Misalnya, polisi AS menggunakan data dari penjahat yang ditangkap untuk memperkirakan di mana dan oleh siapa kejahatan kemungkinan besar akan dilakukan di masa depan. Atau: Beberapa perusahaan menggunakan sistem AI untuk menyaring orang-orang yang cocok dalam proses lamaran.
Masalah dengan teknologi seperti ini: datanya tidak netral, namun sering kali dipilih dengan cara yang patriarki dan rasis, kata Crawford dan Whittaker. “Data pelatihan masa lalu menentukan bagaimana sistem AI akan mengambil keputusan di masa depan,” kata Crawford. Tujuan mereka adalah membersihkan kumpulan data ini dari konten lama yang salah.
Oleh karena itu, teknologi cerdas harus dipandang lebih kritis, kata direktur institut tersebut. “Perlu ada lebih banyak diskusi mengenai dampak buruk AI,” kata Whittaker. Bukan tentang kecerdasan super yang bisa memusnahkan umat manusia, tapi tentang pertanyaan-pertanyaan mendasar. Misalnya, apakah komputer bisa membedakan anjing dan kucing. Oleh karena itu, para ilmuwan menyarankan perusahaan untuk terlebih dahulu bertanya pada diri sendiri apakah AI cocok untuk bisnis mereka sebelum menerapkan teknologi tersebut – bahkan jika teknologi tersebut berfungsi tanpa kesalahan.
Laporan adegan pembuka memberikan lebih banyak topik tentang kecerdasan buatan:
Wawancara selengkapnya dapat dilihat pada video di sini: