Penulis buku terlaris Frank Schätzing (“The Swarm”) terkenal dengan film thriller fiksi ilmiahnya yang diteliti dengan cermat dan menunjukkan seperti apa dunia masa depan.
Novel barunya, “The Tyranny of the Butterfly,” berlatar belakang pedalaman California, di Sierra yang sepi, dua ratus mil dari Silicon Valley. Sebuah kasus pembunuhan menarik sheriff kota, Luther Opoku, ke dalam intrik rahasia perusahaan data besar Nordvisk Inc. Nordvisk sedang mengembangkan kecerdasan buatan (AI) yang kuat di lokasi penelitian jarak jauh – dan juga sangat mirip dengan perusahaan teknologi sebenarnya Palantir.
Business Insider berbicara dengan Frank Schätzing tentang kekuatan algoritme, bagaimana miliarder teknologi seperti Mark Zuckerberg dapat dibujuk untuk menyerah, dan pertemuannya dengan pendiri Palantir Peter Thiel.
Business Insider: Novel baru Anda berkisah tentang superkomputer Ares – kecerdasan buatan yang telah lama melampaui manusia dan bahkan kreatif. Apa perbedaan kita dengan robot di masa depan?
Frank Schätzing: Yang membedakan kita dengan mereka saat ini adalah keunikan individu kita. Dan kesadaran kita. Kesadaran akan keberadaan kita dan, dari situ, perasaan kita serta nilai-nilai yang sebenarnya. Tetap.
BI: Kenapa “masih”?
Harta karun: Siapa bilang mesin tidak pernah sadar?
Siapa bilang mesin tidak pernah sadar?
Saat ini, segala sesuatunya sudah kreatif dalam kerangka tertentu. Contoh: Seluruh sejarah seni tersedia untuk Anda sebagai kumpulan data. Hasilnya, mereka menciptakan citra mereka sendiri. Yang membedakan jenis kreativitas kita adalah bahwa seni kita selalu muncul dari pemeriksaan sadar terhadap perasaan, pikiran, dan nilai-nilai kita. AI tidak mengetahui hal ini, bahkan tidak mengetahui keberadaannya. Namun jika kita membayangkan AI yang menjadi sadar, kita harus bertanya pada diri sendiri: Apakah ia masih berupa mesin atau bukan bentuk kehidupan lain?
BI: Kedengarannya cukup menakutkan. Dalam novelnya, kecerdasan buatan bahkan melampaui penciptanya. Apakah Anda takut kemana perjalanan akan membawa Anda?
Harta karun: Tidak, rasa takut juga merupakan penasihat yang buruk, perasaan yang menyebar yang biasanya diakibatkan oleh ketidakberdayaan. Dan ketidakberdayaan berasal dari ketidaktahuan. Masalahnya adalah, saat ini semua orang membicarakan tentang AI, namun sangat sedikit orang yang dapat memberi tahu Anda apa itu AI. Seringkali hal ini disebabkan oleh mobil yang bisa mengemudi sendiri dan kehilangan pekerjaan. Sebagian besar dari mereka yang menyatakan ketakutannya terhadap kecerdasan buatan telah menggunakannya setiap hari selama bertahun-tahun: dalam bentuk aplikasi, dalam sistem navigasi, dalam setiap pencarian Google. Itu telah lama menjadi bagian dari hidup kita.
BI: Di manakah Anda melihat peluang terbesar bagi kami?
Harta karun: Kecerdasan buatan dapat memproses data dalam jumlah besar dalam waktu yang sangat singkat dengan cara yang tidak dapat dilakukan oleh manusia. Salah satu contohnya adalah terapi buatan dan sistem diagnostik. AI diagnostik membandingkan data pasien dengan semua data yang dapat diperolehnya, yaitu dengan segala sesuatu yang pernah didigitalkan. Dia akan mengenali pola kebisingan data ini lebih cepat daripada yang bisa dilakukan manusia. Oleh karena itu, AI sudah berkali-kali lipat lebih baik dari kita dalam hal diagnostik dan terapeutik.
BI: Apa yang perlu dilakukan agar kecerdasan buatan tidak menjadi monster Frankenstein?
Harta karun: Kita perlu memprogramnya dengan baik sekarang, di sini, dan hari ini. Kecerdasan buatan tidak belajar secara aditif seperti manusia, melainkan meningkatkan pengetahuannya dengan kecepatan yang sangat tinggi. Setelah waktu yang relatif singkat Anda memiliki mesin yang mengetahui jumlah yang tidak terbatas, namun Anda tidak dapat lagi mengatakan apa sebenarnya yang diketahuinya dan kesimpulan apa yang diambil algoritmanya dari pengetahuan ini. Itu menjadi kotak hitam. Saat ini, memberikan AI dengan pagar pembatas algoritmik menjadi semakin penting sehingga tindakannya selalu ditentukan oleh pedoman etika. Meskipun dia lebih baik dari kita dalam segala bidang, penjara peraturannya harus sangat kaku dan sekaligus fleksibel sehingga tidak membatasi kreativitasnya namun dia tidak bisa keluar darinya. Dan itu tidak semudah itu.
BI: Saat ini sepertinya teknologi sudah jauh di depan hukum. Banyak teknologi yang sudah ada, namun undang-undang terkait belum ada.
Harta karun: Karena dalam benak sebagian besar orang, termasuk mereka yang berkuasa, apa yang terjadi saat ini belum meresap ke dalam pikiran: yaitu, tidak lain adalah revolusi kemanusiaan! Dan itu terjadi dengan sangat cepat. Sekarang kita masih punya peluang untuk mendapatkan regulasi. Tidak ada yang lebih fatal saat ini daripada membuat kesalahan besar Faustian, yaitu salah memprogram mesin dengan niat terbaik sehingga suatu saat nanti akan menusuk kita dari belakang. Bukan karena kedengkian, tapi karena mereka salah paham terhadap sesuatu. Kita tidak punya waktu untuk membuang-buang waktu, dan sayangnya, dibutuhkan kehancuran besar untuk mengguncang kita. Jujur saja: Tanpa skandal data di Facebook, Mark Zuckerberg akan membiarkan semuanya berjalan apa adanya. Hanya kegagalan yang memaksa kita untuk berpikir ulang.
BI: Anda hampir mendapat kesan bahwa raksasa teknologi seperti Facebook dan rekan-rekannya merasa tidak tersentuh. Anda menghabiskan beberapa minggu melakukan penelitian di Silicon Valley dan berada di Google dan NASA. Apakah memang ada keangkuhan dan ketidakpedulian terhadap hukum?
Harta karun: Seringkali ada gagasan bahwa ada sesuatu yang lebih baik untuk ditawarkan daripada hukum.
Seringkali ada gagasan bahwa ada sesuatu yang lebih baik untuk ditawarkan daripada hukum.
Masyarakat memandang peraturan yang dibuat oleh para politisi sebagai sangkar yang tidak bisa dihindarkan oleh semangat kreatif, dan menafsirkannya sehingga merugikan kemanusiaan. Sebagian besar orang yang saya temui di sana mempunyai niat yang mulia. Mereka benar-benar ingin menyelamatkan planet ini, namun pada saat yang sama mereka memiliki pandangan abstrak yang aneh tentang kemanusiaan.
BI: Sejauh mana?
Harta karun: Bagi mereka, umat manusia adalah anak besar yang perlu digandeng dan dibimbing menuju kebahagiaannya sendiri menuju masa depan digital yang tidak dapat diciptakan oleh anak itu sendiri. Saat Anda berbicara dengan Larry Page dari Google atau petinggi Valley lainnya, mereka semua sangat akomodatif, namun secara implisit berasumsi bahwa percakapan dengan mereka tidak bisa disejajarkan. Banyak Titan di sana yang jatuh ke dalam perangkap ini. Mereka seringkali tidak tahu banyak tentang orang-orang yang ingin mereka selamatkan
BI: Selama penelitian Anda bertemu Peter Thiel, seorang investor Jerman yang berpengaruh dan salah satu pendiri perusahaan data besar Palantir.
Harta karun: Peter adalah pria yang sangat istimewa. Saya diberi kontaknya. Dan seperti yang terjadi di Silicon Valley, ketika Anda memiliki sesuatu yang menarik untuk ditawarkan atau ide bagus, hierarki menjadi sangat datar dan jalurnya sangat pendek. Keesokan harinya, Peter mengundang saya makan siang di markas teknologi tingginya di San Francisco.
BI: Apa yang Anda ambil dari pertemuan itu?
Harta karun: Kami berbicara selama dua jam dan saya bertemu dengan seorang pria yang ramah, mudah didekati, sangat santai, yang bersedia menjawab pertanyaan saya dan tidak pernah mundur, apa pun yang ingin saya ketahui. Dia dengan sabar menjelaskan kepada saya mengapa berjuang untuk kehidupan kekal atau setidaknya perpanjangan hidup secara besar-besaran adalah hal yang benar. Setelah dua jam bersama dia, saya tidak menemukan gagasan untuk menambah 150 tahun dalam hidup saya begitu menarik. Pada saat yang sama, saya terus berpikir: Saya tidak ingin Anda menjadi musuh. Peter adalah perwakilan kuat dari Lembah yang secara mutlak dan tanpa syarat percaya pada “Apa Pun Bisa.” Anda berpikir dalam hati: Saya harap Anda melakukan hal yang benar, Nak. Menghentikan orang seperti dia bukanlah hal yang mudah.
Baca juga: Startup Misteri Palantir: Karyawan Melaporkan Perusahaan Paling Rahasia di Silicon Valley
DUA: Apakah menurut Anda perusahaan-perusahaan teknologi besar di Silicon Valley ini masih bisa dibujuk untuk menyerah dalam hal regulasi kecerdasan buatan?
Harta karun: Ya, menurut saya itu mungkin. Namun tentunya tidak melalui peraturan pemerintah murni. Pertama: Negara bagian manakah yang ingin Anda lihat berada di tangan negara mana yang mengawasi teknologi yang dapat disalahgunakan untuk politik kekuasaan? Kedua: Berapa banyak politisi yang kita kenal yang benar-benar kita percayai untuk mengambil keputusan mendalam mengenai hal ini? Kesan saya adalah bahwa politik kita sangat tertinggal dari perkembangan yang terjadi. Jika saya pergi ke Bundestag hari ini dan meletakkan mikrofon di bawah hidung para anggotanya, itu mungkin akan mengejutkan. Kemudian kita akan melihat bahwa hampir tidak ada orang yang mengetahui apa itu jaringan syaraf tiruan dan kebanyakan orang menganggap gangguan sebagai semacam kegagalan daya. Politik sangat membutuhkan perbaikan.
Mark Zuckerberg menemukan bahwa makhluk itu sedang menggigitnya.
BI: Bayangkan bagaimana?
Harta karun: Pada akhirnya, hal ini bergantung pada koalisi pengembang, pengusaha, dan politisi – dan hal ini harus terjadi di seluruh negara. Di lembaga think tank open source. Paradoksnya, kegagalan Facebook dalam segala hal membuat saya berharap. Mark Zuckerberg menemukan bahwa makhluk yang diciptakannya tidak hanya menggigit orang lain, tetapi juga dirinya sendiri. Banyak pengembang kini memikirkan kembali bagaimana mereka dapat mengamankan pembangunan mereka dengan lebih baik dan menyelaraskannya dengan kebutuhan masyarakat di masa depan. Meski begitu, kita tidak boleh berhenti berhati-hati!
Terima kasih untuk wawancaranya.
Frank Schätzing: Tirani Kupu-Kupu
Rumah Penerbitan Kiepenheuer & Witsch, Diterbitkan pada 24 April 2018
736 halaman, €26, sebagai e-book €19,99