Menurut atlas tersebut, Badan Ketenagakerjaan Federal menggunakan program cerdas yang menghitung prospek pasar tenaga kerja para pencari kerja, mengevaluasi laporan psikologis atau memeriksa iklan pekerjaan dan profil pelamar untuk mencari kecocokan.
Kecerdasan buatan dimaksudkan untuk membuat pusat kerja menjadi lebih efisien
Penggunaan kecerdasan buatan (AI) di pemerintahan menjanjikan banyak manfaat: Teknologi ini berpotensi mewujudkan negara digital. Urusan administrasi, waktu tunggu yang lama di kantor, dan karyawan yang stres akan menjadi masa lalu, karena AI mengambil banyak pekerjaan dari konsultan.
Namun, penyebaran sistem pengambilan keputusan otomatis, yang disebut sistem ADM, juga membawa masalah baru.
“Kekhawatiran kami adalah bias muncul ketika sistem diprogram dengan buruk atau kualitas data yang mendasarinya buruk. Misalnya, hal ini dapat menyebabkan diskriminasi berdasarkan gender,” kata Lorenz Matzat dari Algorithm Watch dalam wawancara dengan Business Insider.
Algoritma juga dapat melakukan diskriminasi
Secara teoritis, dapat dibayangkan, misalnya, bahwa perangkat lunak tersebut hanya merekomendasikan laki-laki untuk posisi terbuka sebagai pemrogram karena perangkat lunak tersebut telah belajar dari data sebelumnya bahwa keberhasilan penempatan sangat tinggi bagi laki-laki.
Menilai kualifikasi pelamar dengan benar adalah tugas yang sangat berat bagi kecerdasan buatan. Bahkan perusahaan teknologi berbasis data, Amazon, belum berhasil membawa perangkat lunak tersebut ke tingkat kematangan pasar. Perusahaan meluncurkan proyek serupa pada tahun 2017karena perlakuan tidak setara terhadap perempuan tidak dapat diatasi.
Permintaan akan ketertelusuran dan algoritma TÜV yang lebih baik
Algorithm Watch pada dasarnya mendukung otomatisasi – tetapi dengan aturan yang jelas. “Kami menuntut ketertelusuran, baik melalui otoritas pengawas atau prosedur lainnya,” kata Matzat.
Sejauh ini, pihak berwenang tidak diharuskan untuk mengungkapkan bagaimana algoritma yang mereka gunakan sampai pada keputusan tertentu. Hak atas kebebasan informasiyang memberikan setiap warga negara hak atas informasi resmi, dalam praktiknya biasanya terbatas pada file atau informasi tertulis.
Dengan latar belakang ini, pejabat kebebasan informasi di pemerintah federal dan negara bagian bahkan melihat bahwa perlindungan terhadap hak-hak dasar berada dalam risiko. Jadi satu kertas posisi bersama Mulai Oktober 2018 mereka menuntut TÜV untuk algoritma. Sebelum menggunakan algoritma, badan publik harus memeriksa sejauh mana mereka mematuhi hak-hak dasar dan memastikan transparansi yang memadai.
Ilmuwan terkemuka di bidang etika bisnis juga menganjurkan pemahaman yang lebih baik. Christoph Lütge, profesor etika bisnis di Universitas Teknik Munich dan kepala pusat penelitian baru untuk etika dalam kecerdasan buatan, mengatakan kepada Business Insider: “Saya rasa tidak masuk akal untuk memecahkan kotak hitam dengan membuat kode tersebut sepenuhnya publik. .” jangan buat Ini tidak banyak membantu karena seringkali terlalu rumit. Apa yang kita perlukan dalam hal etika adalah algoritmanya bisa dijelaskan.”
Kebebasan informasi sebagai prinsip demokrasi
Jika seseorang diberi kesempatan kerja yang lebih sedikit oleh suatu otoritas, maka harus dijelaskan kriteria apa yang menjadi dasar keputusan tersebut, kata Lütge. Ini adalah prinsip dasar demokrasi. “Apa yang tidak kita inginkan dalam negara demokratis adalah keputusan yang diambil tidak dapat dimengerti,” kata Lütge.
Badan Ketenagakerjaan Federal belum memberikan penjelasan mengenai algoritme tersebut. Business Insider meminta pernyataan dari pihak berwenang tentang sejauh mana sistem perangkat lunak yang digunakan diperiksa dan diselidiki untuk kemungkinan efek diskriminasi dan apakah ada semacam algoritma TÜV di dalam otoritas tersebut.
Dalam tanggapan tertulis dari Badan Ketenagakerjaan Federal, dikatakan: “Jika setiap langkah pemrosesan diotomatisasi, maka otomatisasi sebelumnya mewakili pekerjaan manual, sehingga ada transparansi setiap saat. Diskriminasi terhadap pelanggan karena penggunaan prosedur TI tidak sah secara hukum tidak diizinkan dan oleh karena itu tidak mungkin dilakukan dalam sistem. Hal ini berlaku untuk semua sistem TI, baik proyek otomasi saat ini maupun di masa depan.”
Bagaimana tepatnya pihak berwenang memeriksa algoritme dan kualitas kumpulan data yang mendasarinya sehingga dampak diskriminasi dapat dikesampingkan masih belum terjawab.
Baca juga: Austria ingin mengetahui potensi pengangguran menggunakan algoritma
Menurut analisis Algorithm Watch, agensi tersebut telah menggunakan tiga produk untuk pengambilan keputusan otomatis dan produk keempat sedang direncanakan.
Ini adalah program yang digunakan Badan Ketenagakerjaan Federal:
1. Pencocokan Cerdas
Perangkat lunak Verbis (penempatan, saran dan sistem informasi) adalah program standar untuk penempatan kerja. Hal ini memungkinkan untuk mencocokkan lowongan dan pelamar dengan mencari iklan pekerjaan dan CV untuk informasi spesifik dan memberi bobot secara berbeda. Pasangan tersebut kemudian dimainkan kepada seorang karyawan yang dapat menjadi perantara atas dasar ini.
2. Perhitungan peluang pasar tenaga kerja
Alat PP menghitung peluang pasar tenaga kerja klien dan telah digunakan oleh setidaknya 12.500 karyawan pusat kerja. Dasar penghitungannya antara lain tempat tinggal. Faktor-faktor lain apa yang berperan tidak diketahui.
3. Evaluasi laporan psikologis
Layanan Psikologi Kerja Badan Ketenagakerjaan Federal menggunakan program yang mendukung konsultan dalam menyiapkan laporan psikologis. Perangkat lunak tersebut, yang dirangkum dengan nama Delta-NT, dimaksudkan untuk membantu, antara lain, dalam evaluasi hasil pengujian. Misalnya, mereka digunakan dalam diagnostik bakat untuk bimbingan karir.
4. Pemrosesan otomatis tunjangan pengangguran (dalam perencanaan)
Proyek dengan judul kerja “3A1” adalah singkatan dari pemrosesan aplikasi otomatis untuk tunjangan pengangguran. Badan Ketenagakerjaan Federal telah mengembangkan proyek ini sejak awal tahun dan diharapkan dapat digunakan pada pertengahan tahun 2020. Tidak banyak lagi yang diketahui tentang pertunjukan itu selain judulnya. Dapat diasumsikan bahwa perangkat lunak menyiapkan keputusan pembayaran Hartz IV tertentu berdasarkan data yang tersedia, yang kemudian disajikan kepada petugas.
Pembaruan: Pada saat artikel ini diterbitkan, Business Insider belum menerima pernyataan dari Federal Employment Agency. Pihak berwenang telah mengirimkan tanggapan, yang kemudian kami tambahkan ke dalam teks.