Seekor katak duduk di dalam panci berisi air yang cukup dingin dan membeku. Tak lama kemudian, seseorang datang dan meletakkan panci di atas kompor. Air menjadi lebih hangat dan katak merasa semakin nyaman. Namun airnya semakin hangat. Katak mulai bertanya-tanya apa arti panas itu dan apa yang harus dilakukan untuk mengatasinya. Ketika dia akhirnya memutuskan untuk keluar, air menjadi terlalu panas, hewan itu tidak mempunyai kekuatan lagi dan direbus.
Armin Grunwald, profesor penilaian teknologi di Institut Teknologi Karlsruhe (KIT), menggunakan gambar ini untuk menggambarkan situasi digitalisasi saat ini. Grunwald juga mengepalai Kantor Penilaian Teknologi di Bundestag Jerman, sebuah lembaga yang memberi nasihat kepada Parlemen dan komite-komitenya mengenai isu-isu perubahan teknologi.
Dalam buku barunya “The Inferior Man” dia memperingatkan terhadap ketergantungan total pada teknologi digital dan perusahaan yang mengontrol algoritma dan data terpenting. Dalam wawancara dengan Business Insider, filsuf dan fisikawan tersebut menjelaskan tesisnya.
Dalam buku barunya “The Inferior Man” dia memperingatkan terhadap ketergantungan total pada teknologi digital dan perusahaan yang mengontrol algoritma dan data terpenting. Dalam wawancara dengan Business Insider, filsuf dan fisikawan tersebut menjelaskan tesisnya.
Business Insider: Tuan Grunwald, jika umat manusia adalah katak di dalam panci berisi air, di Berapa suhu kita saat ini?
Armin Grunwald: “Sesuai dengan metafora tersebut, menurut saya kita tidak akan bisa memasak dalam waktu dekat. Namun ketergantungan pada infrastruktur digital untuk komunikasi dan perekonomian kita terus meningkat. Misalnya, apa yang kita lakukan jika internet dimatikan pada suatu saat? skala besar karena serangan hacker? Saya pikir kita perlu segera memikirkan rencana B untuk kasus seperti itu.”
BI: Di negara-negara industri, kita sudah lama bergantung pada pasokan listrik dan air. Mengapa kita harus mengkhawatirkan infrastruktur digital?
Grunwald: “Memang benar kita sudah lama bergantung pada infrastruktur besar. Namun, dengan digitalisasi ada aspek lain – ancaman hilangnya transparansi. Algoritma, penambangan data, dan kecerdasan buatan dapat dengan mudah menimbulkan kompleksitas yang tidak lagi dapat dipahami oleh kita sebagai manusia. Jika kita memberi banyak kekuatan pada sistem seperti itu, kita akan menjadi bergantung pada sistem tersebut, namun kita tidak lagi memahami fungsi dan cara kerjanya. Contoh: Banyak ahli percaya bahwa salah satu penyebab krisis perbankan dan keuangan pada tahun 2008 adalah para pengelola dana derivatif yang besar tidak lagi memahami hasil perhitungan risiko mereka. Program memberi mereka angka, tetapi jika Anda tidak lagi mengetahui bagaimana angka tersebut muncul, Anda tidak dapat lagi memahami maknanya.”
BI: Banyak pelaku usaha dan politisi melihat digitalisasi sebagai peristiwa alami yang tidak dapat dihentikan. Bukankah hal ini juga berlaku mengingat mekanisme pasar yang berlaku?
Grunwald: “Sebenarnya, kita tidak bisa dan tidak seharusnya menghentikan digitalisasi begitu saja. Hal ini terus-menerus mengubah kondisi untuk keberhasilan kegiatan ekonomi dan dengan kecepatan yang semakin meningkat. Dalam hal ini, kekhawatiran para manajer bahwa seluruh model bisnis akan hilang dalam sekejap karena digitalisasi dapat dibenarkan. Namun: Algoritma tidak tumbuh seperti jamur di hutan, melainkan dibuat oleh manusia. Pemrogram mengembangkannya atas nama perusahaan atau otoritas pemerintah seperti dinas rahasia. Pada akhirnya, ini berarti ada nilai dan kepentingan di balik algoritma. Jadi jika perangkat lunak dibuat oleh manusia, maka selalu dapat dirancang secara berbeda. Ini tidak seperti tsunami; sebaliknya, kita selalu dapat mengajukan pertanyaan tentang kemungkinan alternatif. Selain kepentingan ekonomi yang sah, terdapat juga kepentingan sosial yang menyeluruh seperti kepentingan umum, hak-hak sipil, dan peraturan hak asasi manusia internasional. Sektor publik harus memastikan bahwa hak-hak ini tidak dirugikan.”
BI: Tesis utama buku Anda adalah bahwa teknologi diproduksi oleh kelompok elit dan mayoritas masyarakat harus mengikutinya. Bagaimana kita bisa menjadikan proses ini lebih demokratis?
Grunwald: “Kita bisa melakukan banyak hal secara detail, seperti menciptakan sistem insentif dan mengatur lebih banyak hal. Peraturan Perlindungan Data Umum Eropa adalah contoh yang baik. Namun penting juga bagi konsumen akhir untuk mengetahui kekuatan digitalisasi. Sama seperti konsumen saat ini yang meminta produk makanan yang etis – seperti organik, vegetarian, atau vegan – kita dapat melakukan hal yang sama dengan perangkat lunak. Hal ini tidak terjadi pada saat ini. Secara teoritis, pelanggan individu juga memiliki kekuatan yang sangat besar di Internet. Bagaimanapun, Google dan Facebook di dunia ini tidak akan ada artinya tanpa penggunanya. Ambil contoh gerakan anti-nuklir pada tahun 1970an dan 1980an. Hal ini tidak dipaksakan oleh politisi, namun berawal dari gerakan warga dan kemudian berkembang menjadi transisi energi. Hal ini menunjukkan bahwa perubahan dari bawah mungkin terjadi, masyarakat dan konsumen hanya perlu menyadari kekuatan mereka.”
BI: Dari manipulasi pemilu hingga kebocoran data besar-besaran hingga kemungkinan membantu dan bersekongkol dengan genosida – ada banyak skandal di Facebook saat ini. Seberapa berbahayakah jaringan sosial bagi demokrasi kita?
Grunwald: “Sebagian besar komunikasi di dunia Barat saat ini dilakukan melalui Facebook, yang juga mencakup pembentukan opini publik. Saya tidak akan menuduh siapa pun di Facebook ingin menghancurkan demokrasi, namun sebenarnya ada proses yang membahayakan demokrasi. Demokrasi tumbuh subur tidak hanya melalui pemilu yang diadakan setiap beberapa tahun sekali, namun juga melalui pluralitas pendapat dan komunikasi yang terbuka. Namun hal ini juga bergantung pada standar komunikasi tertentu yang dipenuhi. Oleh karena itu, demokrasi menempatkan tuntutan budaya yang relatif tinggi pada suatu masyarakat. Perkataan yang mendorong kebencian dan berita palsu melemahkan persyaratan ini. Saya melihat kami sedang dalam proses pembelajaran. Selama sepuluh hingga lima belas tahun terakhir, kita begitu antusias dengan digitalisasi sehingga kita menutup mata terhadap dampak negatifnya. Kami perlahan mulai curiga bahwa segala sesuatunya tidak akan berjalan seperti itu dalam jangka panjang. Oleh karena itu, penting untuk meningkatkan kewaspadaan terhadap produk digital.”
BI: Profesor pemasaran Universitas New York Scott Galloway telah menyerukan agar Facebook, Google, Apple dan Amazon dibubarkan selama beberapa waktu untuk mematahkan kekuatan monopoli mereka. Apa pendapat Anda tentang pendekatan seperti itu?
Grunwald: “Sayangnya, dinamika monopolisasi melekat pada digitalisasi. Artinya, perusahaan yang pertama kali memasuki pasar menerima sejumlah besar data dan perusahaan yang memiliki sejumlah besar data dapat memberikan produk yang sangat bagus seperti hasil penelusuran. Jika saya memiliki produk yang bagus, banyak pelanggan yang akan datang dan memberikan lebih banyak data. Jadi sangat bisa dimengerti kalau monopoli ini ada di Internet. Namun, pembubaran perusahaan merupakan tindakan yang sangat keras dan tidak sesuai dengan tradisi ekonomi Amerika. Saya pikir ini lebih merupakan masalah regulasi yang tepat. Kami perlu menjelaskan kepada perusahaan-perusahaan ini bahwa jika mereka ingin berbisnis dan menghasilkan uang di Eropa, mereka harus mengikuti peraturan kami. Upaya pertama ke arah ini sudah terlihat, dalam bentuk keputusan yang menentang Google atau Facebook atau Peraturan Perlindungan Data Umum Eropa. Ada reaksi politik yang semakin meningkat di sini.”