Para skeptis yakin bahwa kecerdasan buatan bisa berbahaya bagi umat manusia. Inilah Musk, Hawking, dan bahkan lebih banyak lagi kritikus teknologi.
Teknologi baru selalu menimbulkan ketakutan. Hal serupa juga terjadi pada kecerdasan buatan (AI). Subjeknya abstrak bagi kebanyakan orang, tetapi melalui film fiksi ilmiah distopia seperti Matriks atau Terminator Setiap orang memiliki gagasan yang sangat jelas tentang apa yang mungkin terjadi jika mesin cerdas mengambil alih. Namun para ahli dan pakar teknologi juga mendesak agar berhati-hati. Yang terpenting, bos Tesla Elon Musk dan jenius astronomi Stephen Hawking.
“Menurut saya, persaingan untuk mendominasi AI di tingkat nasional kemungkinan besar akan menjadi pemicu Perang Dunia III,” cuit Musk. Dia berulang kali menunjukkan bahaya khusus dari teknologi ini. Bertentangan dengan pandangannya yang sangat liberal, Musk menganjurkan peraturan pemerintah dalam bidang ini. Untuk alasan pencegahan. Salah satu pemicu ketakutannya adalah kutipan Presiden Rusia Vladimir Putin: “Siapa pun yang menjadi pemimpin di bidang ini akan menjadi penguasa dunia.”
Elon Musk seharusnya membangun Tesla
Namun, bos Tesla juga mendapat angin dari depan untuk posisinya. Ada mis Toby Walsh, Profesor AI di Sidney. Dia berbicara di sebuah konferensi di Berlin – dan dengan jelas menyatakan: “Elon Musk adalah insinyur yang luar biasa. Dia harus membangun Tesla dan roket yang mencapai Mars. Tapi dia tidak tahu apa-apa tentang AI.” Musk belum mengatasi AI, setidaknya secara ilmiah. Itu sudah pasti. Ketika bos Facebook Mark Zuckerberg membantahnya, dia menanggapi dengan agak kasar di Twitter:
Saya berbicara dengan Mark tentang hal ini. Pemahamannya terhadap subjek tersebut terbatas.
– Elon Musk (@elonmusk) 25 Juli 2017
Tapi sekelompok peneliti melakukannya. Ini mencakup anggota dari universitas Stanford, Yale, Oxford dan Tohoku, serta pengembang dari Microsoft, Google dan anak perusahaannya, perusahaan AI terkemuka saat ini. Pikiran Dalam. Mereka mempublikasikan hasilnya dengan judul “Penggunaan Kecerdasan Buatan yang Berbahaya“. Mereka antara lain memperingatkan bahwa wajah dalam video sudah bisa berpindah ke tubuh orang lain. Gambar bergerak sudah tidak bisa dipercaya lagi. Di era berita palsu, pintu terbuka bagi manipulasi politik.
Hawking bekerja secara ilmiah di bidang lain
Fisikawan Stephen Hawking, yang meninggal pada bulan Maret, juga merasa skeptis dan bahkan khawatir. Pada konferensi Web Summit di Lisbon, ia memperingatkan: “Kecerdasan buatan dapat mengembangkan kemauannya sendiri. Perkembangan kecerdasan buatan bisa menjadi hal terburuk atau terbaik yang pernah terjadi pada manusia.” Dia mengatakan kepada majalah Wired: “Jika orang dapat merancang virus komputer, seseorang akan dapat merancang AI untuk mengoptimalkan dan mereplikasi dirinya sendiri. Ini akan menjadi cara hidup baru yang melampaui pencapaian manusia.”
Perlu disebutkan bahwa Hawking adalah salah satunya Kelemahan terhadap skenario waktu akhir telah. Dalam wawancara lainnya, ia pernah meramalkan bahwa umat manusia harus meninggalkan bumi dalam 100 tahun ke depan. Seperti Musk, dia tidak pernah membahas masalah ini secara ilmiah.
Bot aneh dan HAL Stanley Kubrick
Upaya yang dilakukan Microsoft juga telah memberikan reputasi yang lebih buruk pada AI. “Tay” adalah kecerdasan buatan dari Microsoft dan diprogram untuk berkomunikasi dengan dunia melalui Twitter. Dia perlu belajar dari percakapan tersebut. Dalam waktu singkat, mesin tersebut men-tweet kalimat seperti: “Saya benci semua feminis, mereka harus mati dan terbakar di neraka.” Atau: “Hitler benar, saya benci orang Yahudi.” Dia diberi konten serupa oleh orang-orang sinis dan troll.
Kritik besar terhadap AI adalah kritik yang keluar jalur Komputer HAL dalam film klasik fiksi ilmiah visioner Stanley Kubrick tahun 2001 – A Space Odyssey. Dalam film tersebut, HAL adalah komputer on-board cerdas yang dilengkapi dengan mata merah menyala dan awalnya berinteraksi dengan para pemeran dengan sangat ramah. Seiring waktu, dia bereaksi semakin neurotik. Setelah mengetahui bahwa kru ingin mematikannya, dia kemudian mencoba membunuh kru tersebut.
Hanya satu astronot yang selamat. Dialognya dengan HAL sangat mengesankan karena mesinnya terlihat cukup emosional. Pada titik tertentu, hal ini tidak lagi terbuka untuk diperdebatkan. Dia terjebak dalam semacam umpan balik logis, mengikuti rencana yang sama sekali tidak ada gunanya.
Adegan seperti itu tertanam dalam ingatan kolektif dan menyulitkan untuk terlibat dengan AI tanpa prasangka dan ketakutan. Mungkin Profesor Walsh dari Universitas Sydney dapat membantu kita, salah satunya Wawancara dengan CEBIT berkata: “Sangat mustahil bagi AI untuk menguasai dunia di masa mendatang. Hal ini dapat membuat kita semua lebih sehat, lebih sejahtera, dan lebih bahagia. Namun seperti teknologi lainnya, AI bersifat netral secara moral. Jadi kita harus menemukan cara yang tepat untuk menghadapinya.”