Dalam perjalanan menuju negara digital, perangkat lunak cerdas semakin banyak digunakan di otoritas Jerman untuk meringankan pekerjaan pegawai dan menyederhanakan proses. Namun, sulit untuk memahami dari luar bagaimana algoritma ini mengambil keputusan (laporan Business Insider). Partai Kiri skeptis terhadap perkembangan ini.
“Kami tidak menginginkan sistem yang menggantikan keputusan – perangkat lunak harus selalu memiliki efek pendukung. Jadi kami tetap membutuhkan konsultan yang bisa menjelaskan keputusan dengan cara yang bisa dimengerti. Harus ada hak untuk memaksakan keputusan seseorang, ” kata Jessica Tatti, juru bicara Work 4.0 untuk Partai Kiri di Bundestag, kepada Business Insider.
Latar belakangnya adalah penggunaan kecerdasan buatan dan perangkat lunak untuk pengambilan keputusan otomatis di pusat kerja, yang merupakan hal baru “Atlas Otomasi” didokumentasikan oleh LSM Algorithm Watch. Untuk tujuan ini, LSM tersebut menganalisis, antara lain, jawaban pemerintah federal setebal 96 halaman atas pertanyaan kecil dari anggota parlemen sayap kiri Tatti.
Pusat pekerjaan sudah menggunakan bentuk-bentuk kecerdasan buatan
Menurut atlas tersebut, pusat-pusat pekerjaan menggunakan program yang didukung AI untuk, antara lain, menghitung prospek pasar tenaga kerja para pencari kerja, mengevaluasi laporan psikologis atau memeriksa iklan pekerjaan dan profil pelamar untuk mencari kecocokan. Menurut pemerintah federal, pemrosesan permohonan otomatis untuk tunjangan pengangguran juga direncanakan.
Dalam praktiknya hingga saat ini, program-program tersebut hanyalah program yang mempersiapkan keputusan. Artinya mereka mengambil alih evaluasi dari konsultan dan memberikan saran, namun tidak memulai tindakan sendiri atau bahkan mengirimkan pemberitahuan. Masih belum jelas apakah perangkat lunak yang direncanakan untuk memproses permohonan tunjangan pengangguran akan melangkah lebih jauh dan bahkan memutuskan siapa yang mendapat berapa banyak uang.
Cara pihak berwenang menggunakan algoritma telah dikritik karena seringkali tidak mungkin untuk memahami bagaimana program tersebut mengambil keputusan tertentu. Hal ini membawa risiko kesalahan yang menyusup ke dalam kode atau kumpulan data, yang berpotensi menyebabkan diskriminasi. Oleh karena itu, petugas kebebasan informasi dari pemerintah federal dan negara bagian bahkan meminta algoritma TÜV.
Para politisi sepakat: Harus ada ketertelusuran yang lebih baik
Sebuah survei yang dilakukan oleh Business Insider di bidang politik Berlin menunjukkan: Sebagian besar partai akan mendukung TÜV atau badan pemerintahan serupa.
Untuk menghindari diskriminasi oleh kecerdasan buatan, data dan algoritme harus diperiksa untuk memastikan bebas dari bias, kata anggota CDU dari Bundestag Stefan Sauer. “Semacam ‘TÜV’ bisa menjadi solusi yang mungkin. Selain itu, evaluasi harus dilakukan untuk menyeimbangkan database jika diperlukan. Di sini juga, pengungkapan bisa menjadi pendekatan yang baik,” kata politisi tersebut. Pada akhirnya, seseorang selalu harus mengambil keputusan.
Partai Hijau juga melihat perlunya perbaikan. Sayangnya, sejauh ini “tidak ada prosedur yang memuaskan” untuk membuat keputusan sistem AI dapat dipahami dan diverifikasi, kata politisi Partai Hijau Anna Christmann, ketua Komisi Studi Kecerdasan Buatan Bundestag. Karena keputusan resmi mempunyai konsekuensi yang luas bagi warga negara, persyaratan yang sangat tinggi harus diterapkan kepada pihak berwenang. “Kemungkinan untuk mengambil tindakan terhadap keputusan yang tidak adil juga harus ada untuk keputusan otomatis dan juga keputusan manusia,” kata Christmann kepada Business Insider.
“Keinginan untuk berpartisipasi manusia dalam proses pengambilan keputusan akan dikesampingkan”
Dari sudut pandang FDP, sangat penting bagi pihak berwenang untuk mempublikasikan parameter-parameter yang diperlukan dalam pengambilan keputusan berbasis algoritma. Mario Brandenburg, juru bicara kebijakan teknologi FDP, melihat potensi besar dalam kecerdasan buatan “jika diterapkan dengan benar”.
“Menurut pendapat saya, keputusan algoritmik akan tersebar luas di kalangan masyarakat umum dalam jangka menengah. Keinginan untuk berpartisipasi dalam proses pengambilan keputusan akan dikesampingkan,” kata Brandenburg. Ia dapat memahami tuntutan hak atas keputusan manusia. “Secara pribadi, saya juga ingin memiliki hak atas keputusan algoritmik. Ini menciptakan kebebasan memilih bagi semua orang.”