Tiba-tiba lampu di ruang konferensi Garri Kasparov berkedip seperti lampu strobo, speaker Sonos memutar lagu rock dengan volume penuh – dan kemudian televisi menyala dengan sendirinya: “TV Anda terinfeksi ransomware!”, Anda berdiri ke atas layar. , dengan tengkorak merah di bawahnya.
Pada saat itu, seorang peretas berhasil masuk ke ruang konferensi jaringan – tetapi hanya untuk pertunjukan. Nama asli peretas tersebut adalah Vlad Iliushin dan dia adalah peneliti keamanan di perusahaan perangkat lunak anti-virus Avast. Bersama mantan juara catur dunia Garri Kasparov, ia menunjukkan dalam eksperimen di Internationale Funk Exhibition (IFA) di Berlin betapa mudahnya memanipulasi rumah pintar dari luar.
“Saya tidak akan membeli asisten suara karena saya tahu betapa rentannya sistem ini,” kata Kasparov dalam wawancara dengan Business Insider. Grandmaster catur berusia 55 tahun ini memiliki hubungan khusus dengan mesin cerdas: Pada tahun 1997, ia menjadi juara catur dunia pertama yang kalah dari superkomputer, Deep Blue milik IBM.
Kekalahan tersebut masih dianggap sebagai titik balik dalam hubungan antara manusia dan mesin dan membawa topik kecerdasan buatan – meskipun istilah tersebut belum ada pada saat itu – ke publik untuk pertama kalinya.
Sejak itu, Kasparow telah menangani topik manusia dan mesin, perlindungan data, dan keamanan siber, serta menjadi duta keamanan untuk Avast sejak tahun 2016.
Business Insider menemuinya di IFA 2018. Dalam wawancara tersebut, dia menjelaskan mengapa dia tidak akan pernah membeli Alexa, saran apa yang dia miliki untuk menggunakan perangkat cerdas dan mengapa dia menuduh perusahaan teknologi besar memiliki “standar ganda”.
Business Insider: Anda suka menggambarkan mantan pesaing Anda, superkomputer IBM Deep Blue, sebagai “sama sekali tidak cerdas”. Mengapa?
Garry Kasparov: “Bahkan saat ini, 25 tahun setelah saya menghadapi Deep Blue, kita berhadapan dengan mesin yang pada dasarnya adalah kekuatan kasar – bukan kecerdasan. Mereka bekerja dengan informasi yang kami berikan kepada mereka. Mesin yang menghitung 200 juta posisi per detik sangat pandai bermain catur pada saat itu. Saat ini, setiap aplikasi catur lebih baik daripada Deep Blue. Tapi apakah Anda menyebut program ini cerdas?”
“Adalah kesalahpahaman bahwa mesin menjadi cerdas hanya karena mereka mengakali kita”
BI: Setidaknya aplikasi ini lebih baik dalam bermain catur.
Kasparov:“Ada kesalahpahaman umum bahwa mesin itu cerdas hanya karena mereka bisa mengungguli kita dan mengungguli kita dalam kemampuan kognitif. Dan masalah yang saya hadapi pada tahun 1996/97 dan yang kita hadapi saat ini dengan semua mesin ini adalah kita mengharapkan mesin tersebut sempurna. Mereka tidak!”
BI: Di manakah Anda melihat kelemahan mesin cerdas?
Kasparov: “Anda bisa menyebutnya sebagai kurangnya fleksibilitas. Masalah terbesar – bahkan untuk komputer tercanggih seperti Deepmind’s Alpha Zero – adalah bahwa komputer tersebut hanya berfungsi pada bidang yang kami rancang. Setiap sistem tertutup yang kami kembangkan menjamin bahwa mesin yang hanya mengetahui aturan lebih baik dari kita manusia. Karena mereka tidak mudah melakukan kesalahan, tidak berpuas diri dan selalu penuh perhatian. Namun: Anda tidak bisa begitu saja mentransfer pengetahuan yang Anda peroleh dari sistem tertutup ke sistem terbuka. Masyarakat masih perlu memberi mereka kerangka kerja.”
BI: Atau seperti yang pernah Anda katakan: “Terserah manusia untuk memilih masalahnya dan mesin untuk menyelesaikannya.”
Kasparov: “Sebenarnya, Joseph Weitzenbaum mengatakannya pertama kali dalam bukunya”Computer Power and Human Reason” dari tahun 1976. Karena keputusan adalah aktivitas komputasi, sedangkan pilihan dapat didasarkan pada banyak hal dan probabilitas lainnya. Mesin juga bekerja dengan probabilitas, namun pilihan ada di tangan manusia, karena terkadang Anda harus bertindak di luar ekspektasi.”
“Saya tidak melihat bukti adanya skenario hari kiamat”
BI: Beberapa orang, termasuk Elon Musk, percaya bahwa mesin tidak hanya bisa lebih baik dalam bermain catur, tetapi juga di bidang kehidupan lainnya dan menjadi ancaman. Apa pendapat Anda tentang hal itu?
Kasparov: “Saya tidak melihat adanya bukti skenario kiamat ini di masa mendatang. Mungkin dalam seratus tahun atau pada abad ke-23 dan ke-24. Namun hal itu tidak menjadi perhatian saat ini. Saat ini, kekhawatiran sebenarnya adalah orang-orang dengan niat jahat akan mengambil alih mesin-mesin ini dan menggunakannya untuk melawan dunia bebas.”
BI: Jutaan orang sudah memiliki mesin cerdas di rumah mereka. Apakah Anda pernah membeli asisten suara seperti Alexa?
Kasparov: “Tidak, saya tidak akan membeli asisten suara karena saya tahu betapa rentannya sistem ini. Saya lebih baik hidup tanpa perangkat ini daripada mempertaruhkan informasi pribadi saya.”
BI: Apakah Anda memiliki perangkat rumah pintar lainnya?
Kasparov: “Saya punya smart TV dan beberapa perangkat lain, tapi tidak terhubung. Aku tidak ingin mereka berbicara satu sama lain.”
“Kalau datanya terkumpul, bisa juga digunakan menjadi—bahkan melawanmu.”
BI: Kenapa tidak?
Kasparov: “Pada akhirnya, itu tergantung pada informasi yang ingin Anda lindungi. Siapa pun yang membeli perangkat ini harus menyadari bahwa ada risiko tertentu. Ada begitu banyak titik masuk bagi peretas. Mekanisme keamanan dari banyak produsen masih berada di balik potensi penyerang. Saat data dihasilkan, data tersebut dikumpulkan. Dan ketika dijatuhkan, mereka juga dapat digunakan – bahkan untuk melawan Anda. Baik itu pengenalan gambar, pengenalan sidik jari, atau Alexa, jika Anda menginginkan semua perangkat cantik ini yang membuat hidup Anda nyaman, Anda harus membayar harganya. Tidak ada yang datang secara gratis.”
BI: Apa saran Anda untuk masyarakat yang masih ingin membeli perangkat pintar?
Kasparov: “Sama seperti Anda mencuci tangan dan menggosok gigi, Anda juga harus memperhatikan kebersihan digital Anda. Ada begitu banyak kesalahan mendasar yang dapat Anda hindari: baca dan ikuti petunjuknya, teliti perangkat dengan perlindungan terbaik sebelum membeli, mungkin luangkan waktu dan tanyakan pada ahlinya. Ini tidak berarti bahwa Anda akan menghilangkan semua ancaman, namun mengurangi risiko. Cobalah untuk secara proaktif mempertahankan data digital Anda karena itu adalah bagian dari diri Anda. Sayangnya, sebagian besar pelanggan membeli perangkat ini tanpa membaca daftar tindakan pencegahan.”
BI: Jadi, apakah kita tidak memberikan tekanan yang cukup pada perusahaan teknologi besar?
Kasparov: “Tidak, tidak ada tekanan pada Big Tech atau pemerintah karena pelanggan perorangan tidak proaktif. Masyarakat masih belum menyadari bahwa ini adalah ancaman besar. Anda bisa mendengar suara gemuruh sekarang, tapi suara gemuruh itu lebih seperti keluhan.”
BI: Ya, konsumen individu mempunyai pengaruh yang terbatas.
Kasparov: “Yah, mereka bisa memilih—setidaknya di dunia bebas.”
“Perusahaan teknologi tidak hanya mempunyai standar ganda, mereka bahkan tidak menyembunyikannya.”
BI: Mari kita tetap berpegang pada perusahaan-perusahaan Teknologi Besar untuk saat ini. Bagaimana dengan tanggung jawab mereka?
Kasparov: “Teknologi Besar adalah sebuah bisnis. Mereka akan melakukan apa yang terpaksa mereka lakukan. Jika Anda tidak memaksa Apple atau Google melakukan hal tertentu, mereka tidak akan melakukannya. Itu Peraturan Perlindungan Data Umum adalah contoh terbaik. Jika Anda mengharapkan mereka mengeluarkan uang ekstra untuk melindungi pelanggan tanpa dipaksa, Anda menipu diri sendiri.”
BI: Banyak orang yang merasa dimata-matai oleh perusahaan Big Tech. Contohnya adalah kejadian di Oregon, dimana Alexa merekam dan mengirimkan percakapan sepasang suami istri tanpa diminta. Anda tumbuh bersama KGB di Uni Soviet — apakah Anda melihat ada kesamaan dengan spionase?
Kasparov: “Tidak, ada perbedaan besar. Agar Alexa dapat memata-matai Anda, Anda perlu membelinya dan menaruhnya di rumah Anda. Anda mengizinkan pengumpulan data dan pada dasarnya secara sukarela menjadi target. Perbedaan antara pengumpulan data yang dilakukan oleh Google dan Amazon serta pengumpulan data yang dilakukan oleh KGB dan Stasi terletak pada prosesnya – dalam satu kasus, pengumpulan data bersifat sukarela – dan bagaimana data tersebut dapat digunakan. Undang-undang di sebagian besar negara melarang data Anda digunakan untuk merugikan Anda. Namun di Rusia, Tiongkok atau Iran, ceritanya berbeda.”
Baca juga: Revolusi dalam perdagangan online: Pemesanan melalui suara akan dilakukan dalam lima tahun ke depan, kata seorang pakar
BI: Jadi Anda menuduh perusahaan menerapkan standar ganda?
Kasparov: “Bagaimanapun. Mereka tidak hanya mempunyai standar ganda, mereka bahkan tidak menyembunyikannya. Apple – perusahaan yang sama yang melindungi pelanggan AS dan menolak permintaan FBI untuk mendapatkan telepon yang mencurigakan – rela memberikan informasi jutaan pelanggan di Tiongkok! Merupakan kesalahan besar jika membiarkan perusahaan-perusahaan ini menerapkan standar ganda dan membagi pelanggan mereka ke dalam dunia yang bebas dan tidak bebas.”
BI: Nasabah individu di Tiongkok tidak mungkin dapat membela diri terhadap hal ini.
Kasparov: “Kita dapat dan harus memberikan tekanan pada perusahaan-perusahaan teknologi besar ini untuk menerapkan aturan yang sama kepada pelanggan mereka, baik mereka tinggal di dunia bebas atau tidak. Kita harus menuntut agar pemerintah menerapkan hukuman yang kejam terhadap perusahaan-perusahaan besar jika data yang mereka kumpulkan dilanggar dan digunakan terhadap pelanggan individu – baik mereka yang tinggal di Rusia, Tiongkok, Jerman, atau Amerika Serikat.”