MicrosoftBerlinAsisten digital seperti Siri, Alexa, dan Cortana sudah bisa melakukan tugas-tugas kecil untuk kita, seperti membaca berita atau mengingatkan kita akan janji. Perusahaan-perusahaan Jerman juga menggunakan AI untuk memahami kebutuhan pelanggan mereka dengan lebih baik dan lebih cepat.
Namun, kritikus seperti peraih Nobel Stephen Hawking memperingatkan bahwa kecerdasan buatan dapat mengembangkan kemauannya sendiri. Sejauh ini, belum ada undang-undang yang mengatur AI di Jerman atau negara lain mana pun di dunia, meskipun banyak pakar teknologi melihatnya sebagai tren masa depan yang paling penting dalam beberapa tahun mendatang.
Pada hari Senin, Presiden Microsoft Brad Smith mempresentasikan buku barunya “The Future Computed” di Berlin, di mana ia menyoroti peluang dan risiko kecerdasan buatan. Tidak mengherankan jika di Microsoft, Smith cukup optimis tentang masa depan. Tapi juga yang itu Presiden Microsoft memperingatkan politisi Jerman selama kunjungannya ke Berlin bahwa ini adalah waktu yang mendesak untuk memikirkan peraturan: “Pada akhirnya, ini bukan tentang apa yang bisa dilakukan komputer, tapi tentang apa yang seharusnya bisa mereka lakukan.”
Smith memperingatkan terhadap diskriminasi oleh kecerdasan buatan
Baik perusahaan maupun pemerintah harus memastikan bahwa prinsip-prinsip etika seperti kewajaran dan keadilan dipatuhi. Manusia sebenarnya adalah panutan yang buruk dalam hal ini karena otak kita cenderung bias. “Jika kecerdasan buatan dirancang oleh sekelompok kecil orang, komputer ini akan bertindak seperti sekelompok kecil orang.
Jika kecerdasan buatan dirancang oleh sekelompok kecil orang, komputer ini akan bertindak seperti sekelompok kecil orang.
“Saya rasa dunia tidak menginginkan hal itu,” presiden Microsoft memperingatkan.
Hal yang sama berlaku untuk setiap kelompok homogen. Sekalipun algoritma hanya diprogram oleh perempuan atau generasi muda, pola diskriminatif akan muncul dalam jangka panjang.
Pemrogram dan data harus menjadi lebih beragam
Jika kecerdasan buatan digunakan dalam proses aplikasi dan algoritmanya diprogram hanya berdasarkan pengalaman laki-laki, otomatis perempuan dirugikan. “Kita perlu memastikan bahwa kita tidak memasukkan bias yang merupakan bagian dari pemikiran manusia dalam pengambilan keputusan melalui komputer.”
Algoritme yang adil hanya dapat berhasil jika pemrogram dan data yang diumpankan ke komputer sangat beragam.
Silicon Valley sama sekali tidak beragam
Apa yang Smith tidak sebutkan: Microsoft adalah yang terburuk di Silicon Valley dalam hal rasio perempuan di perusahaan. Menurut perusahaan, hanya 26 persen karyawannya adalah perempuan. Di sektor teknologi yang juga mencakup programmer hanya 18 persen.
Baca juga: Bersyukurlah Jerman tidak memiliki Silicon Valley – kata seorang pengusaha teknologi Jerman
Microsoft tidak sendirian dalam hal ini: raksasa teknologi lain seperti Google, Apple, dan Facebook juga menghadapi masalah besar dalam hal keberagaman. Pada musim panas 2017, sepuluh halaman tersebar di Google “Manifesto anti-keberagaman”yang diklaim oleh seorang karyawanbahwa perempuan kurang terwakili di dunia teknologi karena mereka secara biologis berbeda dari laki-laki.
Ketika Anda mempertimbangkan bahwa Alexa, Siri, Cortana dan Co. dimodelkan pada perempuan, namun dikembangkan hampir secara eksklusif oleh laki-laki, ada ironi tertentu dalam hal ini. Jika Silicon Valley tidak menjadi lebih beragam, asisten digitalnya mungkin akan mengalami masalah diskriminasi.