“ITU HANYA LANGKAH SELANJUTNYA DALAM EVOLUSI”: LEMBAH SILIKON SIAP UNTUK ROBOT MEMBUNUH KITA SEMUA – Beberapa tahun yang lalu, tepat sebelum pandemi dimulai, seorang teman memberi tahu saya sebuah kisah yang meresahkan tentang interaksinya dengan seorang raksasa teknologi di Silicon Valley. Teman saya diundang ke makan malam kelas atas di Palo Alto, dengan beberapa lusin pendiri teknologi, CEO, dan investor.
“ITU HANYA LANGKAH SELANJUTNYA DALAM EVOLUSI”: LEMBAH SILIKON SIAP UNTUK ROBOT MEMBUNUH KITA SEMUA
republic-news – Ini tidak seperti komplotan rahasia seperti kedengarannya: Makan malam yang menyenangkan seperti ini, sering diadakan di ruang belakang sebuah restoran mewah, adalah kejadian biasa di dunia teknologi. Pada mereka, undangan (seringkali CEO, VC, dan terkadang jurnalis teknologi) mungkin berbagi ide yang sama atau memperdebatkan beberapa teknologi baru yang esoteris.
Baca Juga : Industri Teknologi yang Berkembang Pesat di Vancouver
Pada jamuan khusus ini, secara kebetulan, teman saya duduk di sebelah CEO teknologi multimiliarder. Percakapan mereka beralih ke topik robot dan kecerdasan buatan, bidang yang diinvestasikan oleh raksasa teknologi ini. CEO meluncurkan penjelasan panjang tentang bagaimana planet masa depan kita suatu hari nanti, mungkin segera, dihuni oleh jutaan, jika bukan miliaran, dari robot.
Mereka akan tinggal di antara kita, berjalan-jalan dengan anjing kita, mengendarai mobil kita, melayani dan melindungi keluarga kita, dan mengoperasikan infrastruktur kita, prediksinya. Teman saya, tentu saja, penasaran apa yang akan terjadi pada kita manusia di masa depan itu.
“Siapa yang akan memprogram AI?” teman saya bertanya. “Yah, pada awalnya, kami akan melakukannya,” titan teknologi itu menjawab. “Tapi itu tidak akan lama sebelum AI lebih pintar dari kita, dan itu akan mulai memprogram dirinya sendiri.” “Apa yang terjadi jika AI dan robot-robot ini memutuskan bahwa mereka tidak membutuhkan manusia lagi?” “Lalu mereka menyingkirkan kita,” kata titan teknologi itu sambil mengangkat bahu.
Teman saya terkejut dengan komentar ini. “Itu menakutkan.” “Tidak, tidak,” kata raksasa teknologi itu, meletakkan pisau dan garpunya untuk benar-benar fokus pada poin yang ingin dia sampaikan. “Jika robot memutuskan untuk menyingkirkan kita, jika kita tidak lagi diperlukan di planet ini, maka itu hanya langkah evolusi selanjutnya.”
Tentu saja, ada banyak miliarder dan pakar teknologi yang telah memperingatkan tentang ancaman eksistensial terhadap kemanusiaan yang mungkin ditimbulkan oleh AI—dan tidak menginginkan masa depan di mana robot menyingkirkan planet kita, manusia bodoh. Jaan Tallinn, salah satu pendiri Skype, baru-baru ini memperingatkan bahwa “Kemanusiaan tidak memiliki apa pun untuk melindunginya dari potensi risiko kecerdasan buatan.” Elon Musk menempatkan sudut pandangnya sedikitcara yang lebih mengkhawatirkan: “Untuk AI, tidak akan ada kematian. Itu akan hidup selamanya. Dan kemudian Anda akan memiliki diktator abadi yang darinya kita tidak akan pernah bisa melarikan diri,” katanya. Jadi Anda dapat melihat mengapa, bahkan setelah mendengar cerita tentang titan teknologi yang mengabaikan para penguasa robot sebagai langkah berikutnya dalam proses evolusi, saya berasumsi bahwa kebanyakan orang berada di kubu yang ingin memastikan umat manusia benar-benar bertahan.
Masalahnya adalah akhir-akhir ini saya mendengar semakin banyak orang membicarakan ide “evolusi” tentang robot, dan ini bukan hanya percakapan satu kali dengan miliarder yang aneh. Selama setahun terakhir, saya telah mendengar (dan bahkan berpartisipasi dalam beberapa) variasi percakapan ini dengan orang-orang di Lembah Silikon yang bekerja di bidang robotik dan AI umum yang menggemakan sentimen serupa. Sementara prediksi mereka tentang waktu bervariasi — beberapa mengatakan 10 tahun, yang lain 100, beberapa percaya bahwa kita memiliki setidaknya seribu tahun lagi — banyak dari mereka mulai menggunakan kata yang sama ketika merujuk pada manusia yang berpotensi digantikan oleh penguasa robot mereka. : evolusi.Meskipun ini bukan evolusi biologis yang sebenarnya, karena pembuat robot dan AI mungkin tidak akan membawa gen kita, ini mirip dengan survival of the fittest, di mana robot bertahan, dan kita tidak.
CEO lain yang memiliki perusahaan robotika menyarankan kepada saya bahwa hampir tidak ada gunanya mengkhawatirkan prospek mengerikan robot menggantikan kita karena alasan yang berbeda: Yaitu, jika tidak, kita hanya akan berakhir dengan bunuh diri melalui manusia lain. -menciptakan tragedi. Perubahan iklim, kelebihan populasi, varian COVID yang lebih maju, perang nuklir, komputasi kuantum, atau manipulasi biotek menjadi serba salah. “Sungguh,” kata CEO, “kami benar-benar memastikan bahwa umat manusia tetap hidup setelah kita mati dengan menciptakan spesies baru yang meniru model kita — spesies yang bisa dibilang bisa bertahan lebih lama dari yang kita bisa.” Meskipun ada nada komedi dalam cara dia menyampaikan prediksi ini, jelas bahwa dia percaya itu benar.
Orang-orang di Lembah Silikon benar untuk menunjukkan bahwa ini bukan pertanyaan apakah manusia pada akhirnya akan mati dan dikeluarkan dari muka planet (atau alam semesta), tetapi pertanyaan tentang kapan.Ada skenario kasus terbaik, di mana akhir kita—dan ekosistem kita bersama—terjadi dalam jutaan bahkan miliaran tahun dari sekarang, ketika matahari menjadi dingin. Dan ada masa depan yang paling suram, tidak mungkin tetapi bukan tidak mungkin, di mana dalam beberapa dekade, robot mengawasi anak-anak kita dan bertanya-tanya apakah mereka membutuhkannya. Kami satu-satunya spesies (sejauh yang kami tahu) yang menemukan transistor dan komputer dan alat komunikasi dan mungkin segera, robot dan AI Jika kita cukup pintar untuk melakukan itu, kita mungkin harus bertanya pada diri sendiri apakah yang kita bangun bisa membunuh kita, dan mungkin—mungkin saja—kita harus mulai memikirkan bagaimana memastikan itu tidak terjadi. Ini adalah percakapan yang perlu kita mulai sekarang, karena teknologi ini sedang dibangun, bukan setelah fakta, ketika kita hanya bisa berharap bahwa kita memilikinya.
Beberapa tahun yang lalu, Nick Bostrom, yang menjalankan Future of Humanity Institute di Oxford University, seorang filsuf langka dengan latar belakang fisika teoretis dan kecerdasan buatan, menulis sebuah makalah yang merinci bagaimana manusia dapat menemukan diri mereka terhapus dari muka planet ini. Dia menyimpulkan bahwa sebenarnya hanya ada dua cara untuk bermain di masa depan. Yang pertama adalah bahwa kita berevolusi dan berubah menjadi “satu atau lebih spesies atau bentuk kehidupan baru, cukup berbeda dari apa yang ada sebelumnya sehingga tidak lagi dianggap sebagai Homo sapiens; yang lain, hanya dengan mati, tanpa penggantian atau kelanjutan yang berarti.”
Menurut teori Bostrom bahwa semakin mudah menciptakan teknologi baru, semakin tinggi kemungkinan kita semua mati akibat salah satunya. Dia menyajikan teori ini dalam makalah lain, ” The Vulnerable World Hypothesis ,” di mana dia berpendapat bahwa teknologi baru seperti bola yang ditarik keluar dari guci raksasa; setiap bola mewakili ide baru (seperti fisika kuantum), atau penemuan baru (seperti partikel baru yang ditemukan di Hadron Collider), atau teknologi baru (seperti AI dan robot). Kami telah menciptakan banyak teknologi baru yang belum “selalu atau secara default menghancurkan peradaban yang menciptakannya.” Namun, menurutnya, ada alasannya: “Bukan karena kami sangat berhati-hati atau bijaksana dalam kebijakan teknologi kami. Kami baru saja beruntung.”
