Elon Musk: Kecerdasan Buatan Akan Melampaui Manusia dalam Lima Tahun, dan Ia Memilih Pasrah pada Risikonya

Prediksi Lima Tahun

Elon Musk memperkirakan kecerdasan buatan (AI) akan melampaui gabungan seluruh kecerdasan manusia dalam waktu sekitar lima tahun. Menurutnya, begitu titik itu tercapai, praktis tidak ada lagi bidang yang bisa dikerjakan manusia lebih baik dibanding mesin, kecuali satu hal yang sifatnya melekat pada manusia itu sendiri: menjadi manusia.

Dari proyeksi itu, Musk menggambarkan skenario yang ia sebut sebagai "zaman kelimpahan luar biasa" (age of amazing abundance), sebuah masa ketika setiap orang bisa memiliki apa pun yang mereka bayangkan. Ia sadar klaim ini terdengar berlebihan, tetapi menantang publik untuk membandingkan kondisi dunia tahun 2026 dengan kondisi sepuluh tahun mendatang, tahun 2036. Satu-satunya faktor yang menurutnya bisa menggagalkan visi tersebut adalah bencana besar semacam perang nuklir global. Selama skenario terburuk itu tidak terjadi, ia yakin dunia sedang menuju kelimpahan, dan ia menyebut pandangannya sebagai pesan optimisme tentang masa depan.

Ketika Manusia Bukan Lagi Pemegang Kendali

Ditanya apakah manusia masih akan memegang kendali sepuluh tahun dari sekarang, Musk menjawab kemungkinannya kecil. Ia menganalogikan hubungan manusia dan AI dengan hubungan manusia dan simpanse. Jika jarak kecerdasan antara AI dan manusia kelak jauh lebih lebar dibanding jarak kecerdasan antara manusia dan simpanse, mustahil membayangkan simpanse yang memegang kendali atas manusia. Musk mengingatkan, manusia sendiri pada dasarnya adalah hasil evolusi dari primata purba. Tidak terlalu lama sejak nenek moyang manusia masih bergelantungan di pohon memakan pisang di hutan, dan manusia modern pun masih memakan buah yang sama.

Dari Kekhawatiran ke Kepasrahan Filosofis

Poin paling mencolok dari wawancara ini adalah perubahan sikap Musk sendiri. Sebelumnya ia pernah menyatakan ada peluang 10 hingga 20 persen bahwa "robot pembunuh" bisa memusnahkan umat manusia, sebuah angka yang dalam wacana keselamatan AI dikenal dengan istilah P(doom) atau probabilitas kiamat. Ketika ditanya mengapa kini ia tampak jauh lebih santai menyikapi risiko sebesar itu, Musk mengakui pandangannya belum berubah secara substansi. Risiko itu, katanya, tetap ada dan tidak nol. Yang berubah adalah kesimpulan filosofisnya: ia memilih untuk melihat sisi baiknya, karena ia tidak melihat cara realistis untuk menghentikan momentum perkembangan AI dan robotika yang menurutnya sudah sedemikian kuat. Bahkan andai ada "tombol darurat" untuk menghentikan semuanya, ia menduga sebaiknya tombol itu tidak ditekan, sebab hasil paling mungkin dari perkembangan ini tetaplah kelimpahan luar biasa bagi semua orang.

Ia menegaskan kembali bahwa sikapnya sekarang adalah menerima keniscayaan itu dan menikmati prosesnya. Ketika didesak apakah angka 10 hingga 20 persen kemungkinan kepunahan itu tergolong tinggi, Musk merespons dengan analogi kosmologis: pada akhirnya, menurut model fisika standar, alam semesta akan berakhir dalam kondisi yang disebut heat death, yaitu pendinginan bertahap menuju kekosongan yang datar dan membosankan. Jika kehancuran memang menjadi akhir dari segalanya, maka menurutnya yang benar-benar berarti adalah perjalanan itu sendiri, bukan tujuan akhirnya, karena tujuan akhirnya toh sama-sama suram.

Pewawancara mencoba mengingatkan bahwa sepuluh tahun bukan waktu yang singkat, dan bertanya apakah Musk mau menaiki roketnya sendiri jika tahu ada peluang 10 hingga 20 persen roket itu meledak dan membunuhnya. Musk menjawab akan tetap mau, dengan syarat memang tidak ada yang bisa dilakukan untuk mencegahnya. Menurutnya, satu-satunya hal yang realistis dilakukan bukan menghentikan laju kecerdasan buatan dan robotika, melainkan berusaha meminimalkan peluang terjadinya skenario terburuk.

Ironi Sang Akselerator

Bagian yang sarat ironi dalam wawancara ini adalah pengakuan Musk atas perannya sendiri dalam mempercepat perkembangan AI, sesuatu yang menurutnya sebenarnya bukan niat awal. Ia bercerita bahwa untuk waktu yang lama ia enggan terlibat dalam pengembangan AI. Ia kemudian ikut mendirikan OpenAI sebagai penyeimbang terhadap Google, yang pada masa itu nyaris memonopoli teknologi AI. Dari OpenAI itulah kemudian lahir Anthropic, yang kini menjelma menjadi salah satu pemimpin industri AI.

Musk mengakui bahwa rangkaian tindakannya justru menimbulkan efek berantai yang mempercepat laju perkembangan AI secara keseluruhan, sesuatu yang tidak pernah ia niatkan. Baginya, semua jalan tampak bermuara pada percepatan AI, sehingga pilihan yang tersisa hanyalah bersedih tentang hal itu atau ikut bergabung di dalamnya. Ia memilih opsi kedua, sebuah sikap yang oleh pewawancara disindir sebagai versi modern dari pepatah "kalau tidak bisa mengalahkan, bergabunglah".

Usulan Tata Kelola Bersama Industri

Diskusi kemudian bergeser ke upaya mitigasi risiko di tingkat industri. Pewawancara menyinggung proposal yang baru diajukan Demis Hassabis, pemimpin Google DeepMind, mengenai pembentukan regulator gabungan sektor publik dan swasta. Musk mengungkapkan bahwa ia sempat berdiskusi langsung dengan Hassabis selama beberapa jam sebelum proposal itu dipublikasikan. Rekomendasi Musk saat itu sederhana: perusahaan-perusahaan AI terkemuka setidaknya perlu mengadakan pertemuan atau panggilan rutin setiap beberapa minggu untuk mendiskusikan isu keamanan dan keselamatan.

Ketika ditanya mengapa langkah sesederhana itu belum juga terwujud, mengingat para pemimpin perusahaan AI bahkan tidak selalu akur satu sama lain dan justru saling bersaing ketat, Musk menjelaskan logikanya. Menurutnya, justru karena saling bersaing itulah para pelaku industri punya insentif untuk saling menjaga kejujuran. Ia menilai pihak pemerintah, yang umumnya tidak memiliki pemahaman teknis mendalam dan tidak berada di garis depan pengembangan AI, akan kesulitan menilai sendiri apakah suatu model layak dirilis atau tidak. Sebaliknya, sesama kompetitor, jika diberi waktu tinjauan satu hingga dua minggu terhadap model baru, akan mampu mengidentifikasi masalah dan punya dorongan alami untuk saling mengawasi.

Skema yang ia bayangkan adalah sebagai berikut: para pembuat model saling memeriksa hasil kerja masing-masing; jika ditemukan hal yang mengkhawatirkan, hal itu dilaporkan kepada pemerintah; dan jika perusahaan bersangkutan tidak mengambil tindakan atas risiko tersebut, di situlah momen bagi pemerintah untuk turun tangan.

Urgensi yang Mendesak

Musk sepakat bahwa mekanisme semacam itu semestinya sudah berjalan, bahkan segera. Ia menyebut banyak pihak telah mendesaknya bahwa sistem semacam ini perlu terbentuk dalam enam bulan ke depan, mengingat kecepatan peningkatan kemampuan model AI saat ini. Namun ketika pewawancara menyebut enam bulan sebagai jangka waktu yang tergolong panjang, Musk membenarkan bahwa jangka waktunya semestinya lebih singkat dari itu. Ia menggambarkan betapa derasnya laju pengumuman terobosan AI belakangan ini, kadang lebih dari satu pengumuman signifikan dalam sehari, sampai-sampai ia sendiri kehilangan hitungan berapa banyak yang terjadi hanya dalam sepekan terakhir.

Retak di Antara Para Pemimpin AI

Bagian penutup wawancara menyingkap ketegangan personal di antara para petinggi industri AI. Ditanya apakah kerja sama semacam itu realistis dilakukan di tengah permusuhan pribadi yang kerap terlihat di media sosial, Musk berterus terang bahwa dirinya bukan penggemar Sam Altman, CEO OpenAI. Keberatannya berakar pada sejarah OpenAI sendiri: organisasi itu didirikan sebagai lembaga nirlaba yang bercita-cita menjadi perusahaan AI sumber terbuka dan dimiliki dunia, namun kemudian bertransformasi menjadi entitas nirlaba berorientasi laba senilai 800 miliar dolar AS dengan model tertutup. Menurut Musk, siapa pun yang berada di posisinya, yang pernah menyumbangkan dana untuk cita-cita awal itu, wajar merasa dikhianati karena hasil akhirnya bertolak belakang dengan tujuan sumbangan tersebut. Ia menilai keberatannya ini sah secara prinsip.

Musk juga menyinggung ketidaksukaan Dario Amodei, CEO Anthropic, terhadap Sam Altman, yang menurutnya berakar dari alasan yang sama: tim yang kelak mendirikan Anthropic meninggalkan OpenAI karena tidak lagi mempercayai kepemimpinan Altman. Tanpa ketidakpercayaan itu, menurut Musk, Anthropic barangkali tidak akan pernah berdiri sebagai entitas terpisah. Terlepas dari perselisihannya dengan Altman, Musk justru memuji Dario Amodei sebagai sosok yang berprinsip dan sungguh-sungguh memedulikan masa depan dunia. Ia bahkan menyebut, dari semua orang yang pernah ia temui di Anthropic, tidak satu pun yang memicu "detektor kejahatannya"; semuanya tampak berniat baik. Namun ia menambahkan catatan kehati-hatian klasik, bahwa jalan menuju neraka pun sering kali dilapisi oleh niat buruk, meski ia mengakui ada pula sedikit batu lapisan yang benar-benar berniat baik di jalan itu, sehingga tidak boleh ada pihak yang berpuas diri.

Pada akhirnya, Musk menutup dengan sikap pragmatis: bila memang harus berbicara satu sama lain, perbedaan pribadi di antara para pemimpin AI semestinya dikesampingkan demi kepentingan yang lebih besar, yaitu keselamatan dunia.

Catatan Penutup

Wawancara ini memperlihatkan kontradiksi yang melekat pada diri Musk sendiri: di satu sisi ia meyakini AI membawa risiko eksistensial nyata dengan probabilitas dua digit, di sisi lain ia justru salah satu tokoh yang, menurut pengakuannya sendiri, ikut mempercepat laju perkembangan teknologi tersebut. Sikap "nikmati saja perjalanannya" yang ia kemukakan bukan lahir dari optimisme naif, melainkan dari kesimpulan bahwa penghentian laju AI sudah di luar jangkauan siapa pun, termasuk dirinya sendiri, sehingga yang tersisa hanyalah upaya meminimalkan risiko sembari berharap hasil terbaik yang mungkin terwujud. 

source: https://youtu.be/1X-rr1DKSbY