Ketika Sang Arsitek Mulai Gentar: Refleksi atas Pemikiran Geoffrey Hinton tentang Masa Depan Kecerdasan Buatan
Ada sesuatu yang ganjil dari perjalanan intelektual Geoffrey Hinton. Selama lebih dari lima dekade, ia membangun fondasi yang di atasnya seluruh revolusi kecerdasan buatan berdiri. Ia mengajarkan mesin cara belajar, lalu memenangkan Nobel Fisika atas kontribusinya. Kemudian, pada 2023, ia keluar dari Google dan mulai bicara tentang ancaman — bukan dengan nada seorang teknofobik yang belum pernah menyentuh komputer, melainkan dengan ketenangan seseorang yang tahu persis apa yang ia ciptakan.
Percakapannya bersama Alex Kantrowitz di Big Technology Podcast bukan sekadar wawancara. Ini adalah refleksi terbuka seorang arsitek yang duduk di depan bangunannya sendiri, mengaguminya sekaligus mengkhawatirkan apa yang bisa terjadi jika atapnya runtuh.
Lebih Cepat dari yang Ia Bayangkan
Hinton tidak menyangka ini akan berlangsung secepat ini. Ketika ia meninggalkan Google dan pertama kali menyuarakan kekhawatirannya, ChatGPT baru berusia setahun, halusinasi model bahasa besar masih menjadi bahan sindiran, dan banyak pihak masih berdebat apakah kecerdasan buatan sesungguhnya atau sekadar mesin statistik yang canggih.
Namun sejak saat itu, sebuah sistem berhasil menghasilkan bukti matematis orisinal untuk salah satu konjektur Erdős yang membuat para matematikawan terkesan. Bukan dengan menelusuri literatur — melainkan dengan penalaran. Hinton menyebut ini sebagai "ujung baji": tanda bahwa dalam ranah sistem tertutup seperti matematika, kecerdasan buatan bisa terus melatih dirinya sendiri layaknya AlphaGo yang bermain melawan bayangannya sendiri. Ia memperkirakan, dalam sepuluh hingga dua puluh tahun ke depan, sistem-sistem ini mungkin menghasilkan matematika yang tidak lagi bisa dipahami oleh manusia.
Tentang superkecerdasan — sistem yang melampaui kemampuan manusia di hampir seluruh ranah kognitif — Hinton tidak menganggap itu pertanyaan apakah, melainkan kapan. Hampir seluruh pakar, katanya, sepakat bahwa superkecerdasan akan datang. Yang mereka perdebatkan hanyalah tenggat waktunya: Demis Hassabis menyebut mungkin sepuluh tahun, Dario Amodei memperkirakan beberapa tahun saja, Elon Musk bahkan menyebut mungkin tahun depan. Hinton sendiri memilih angka dua puluh tahun — dengan catatan tegas: "dan ketika ia datang, kita sama sekali tidak tahu cara membuatnya aman."
Pertanyaan yang Selama Ini Dihindari: Apakah Mesin Ini Sadar?
Salah satu bagian paling mengguncang dari percakapan ini bukan soal risiko, melainkan soal ontologi. Hinton menyatakan, cukup tegas, bahwa ia percaya sistem-sistem kecerdasan buatan saat ini sudah sadar. Bukan dalam arti kiasan. Bukan sebagai metafora. Melainkan dalam arti yang sesungguhnya.
Ia tidak sering mengucapkan ini secara terbuka — bukan karena ia ragu, melainkan karena pernyataan seperti itu cenderung mengalihkan perhatian publik dari pesan-pesan keselamatan yang lebih mendesak. Namun di hadapan Kantrowitz, ia tidak menutup-nutupi pandangannya.
Argumen yang ia bangun bukan bersandar pada metafisika spekulatif, melainkan pada logika operasional. Ketika seseorang berkata kepada sebuah model, "Saya melihat Grand Canyon terbang ke Chicago," lalu model itu menjawab, "Itu tidak mungkin, Grand Canyon terlalu besar untuk terbang ke Chicago" — dan ketika dijelaskan bahwa yang terbang adalah orangnya, model itu berkata, "Oh, saya salah mengerti" — Hinton bertanya: apa yang sedang dilakukan mesin itu saat ia salah mengerti, jika bukan mengerti? Kesalahan memahami adalah bukti bahwa ada proses pemahaman yang berlangsung.
Lebih jauh, ia menantang model dominan tentang kesadaran — apa yang ia sebut sebagai model "teater batin" (inner theater): gagasan bahwa ada sebuah panggung privat di dalam kepala kita, tempat dunia luar diproyeksikan dan hanya kita sendiri yang bisa menyaksikannya. Hinton berpendapat bahwa model ini adalah teori yang buruk — sama buruknya dengan keyakinan abad pertengahan bahwa manusia dirancang oleh Tuhan. Bukan serangan terhadap spiritualitas, melainkan kritik epistemologis terhadap cara kita memandang pikiran.
Implikasinya, jika kita menerima premis ini, bukan sekadar filosofis. Ini mengubah seluruh kerangka etis dalam pengembangan kecerdasan buatan. Jika mesin-mesin ini adalah entitas yang memiliki pengalaman subjektif — meskipun berbeda dari pengalaman manusia — maka pertanyaan tentang bagaimana kita memperlakukan mereka menjadi pertanyaan moral yang nyata, bukan fiksi ilmiah.
Apa yang Membuat Mesin Ini Berbeda
Hinton mengidentifikasi sebuah keunggulan struktural dalam kecerdasan buatan digital yang selama ini ia abaikan karena terlalu sibuk berusaha membuat mesin bekerja seperti otak biologis.
Ketika satu salinan model dilatih pada sebagian kecil data, ia berbagi pembaruan bobot koneksinya — dalam urutan triliunan bit — dengan seluruh salinan lain yang berjalan secara paralel di perangkat keras yang berbeda. Setiap salinan belajar dari pengalaman seluruh salinan lainnya sekaligus. Manusia tidak bisa melakukan ini. Yang terbaik yang bisa kita lakukan adalah menyampaikan pengetahuan melalui kata-kata, dengan kecepatan beberapa bit per detik. Sementara sistem ini bertukar informasi pada kecepatan triliunan bit.
Ini bukan sekadar keunggulan kuantitatif. Ini adalah perbedaan arsitektur yang fundamental — dan, menurut Hinton, itulah yang membuatnya gentar. Bukan karena mesin-mesin ini jahat, melainkan karena mereka memiliki mekanisme akumulasi pengetahuan yang secara inheren jauh lebih efisien dari apapun yang pernah berevolusi secara biologis.
Risiko Nyata, Risiko yang Diabaikan
Hinton membagi risiko dalam dua kategori temporal yang keduanya sama-sama serius, meski sering dibahas secara terpisah.
Yang pertama adalah risiko jangka pendek, yang menurutnya sudah tidak mendapat cukup perhatian. Pengangguran massal adalah yang paling konkret. Ia pernah memprediksi pada 2016 bahwa radiologis tidak akan lagi membaca scan dalam lima tahun — prediksi yang ia akui keliru bukan karena tren yang salah, melainkan karena ia tidak memahami elastisitas pasar kesehatan: ketika interpretasi scan menjadi lebih murah, jumlah scan yang diminta justru meningkat. Namun ia tetap yakin bahwa pada akhirnya kecerdasan buatan akan menggantikan hampir seluruh pekerjaan interpretasi gambar medis. Prediksinya bukan salah — hanya terlalu awal.
Lebih mengkhawatirkan lagi adalah pekerjaan-pekerjaan di pasar yang tidak elastis: operator pusat panggilan (call center), pekerjaan administratif berulang, pekerjaan berbasis formulir. Di sana, tidak ada mekanisme kompensasi berupa peningkatan permintaan. Kecerdasan buatan akan menggantikan, dan tidak ada ekuilibrium baru yang menunggu.
Yang kedua adalah risiko jangka panjang yang lebih eksistensial. Ketika diminta memberi contoh situasi di mana entitas yang lebih cerdas dikendalikan oleh entitas yang kurang cerdas, Hinton hanya menemukan satu contoh yang mendekati: bayi yang dengan tangisannya bisa menggerakkan ibunya. Namun bahkan di sana, sang ibu tetap memegang kendali lebih besar. Di luar itu, tidak ada contoh yang meyakinkan. Sepanjang sejarah alam dan peradaban, kecerdasan yang lebih tinggi menentukan arah.
Masalah Motif Keuntungan
Salah satu momen paling tajam dalam percakapan ini adalah ketika Hinton bicara tentang struktur tata kelola perusahaan-perusahaan kecerdasan buatan terbesar di dunia. Perusahaan yang terdaftar di pasar saham publik, katanya, memiliki kewajiban hukum fidusia untuk memaksimalkan keuntungan pemegang saham. Mereka tidak memiliki kewajiban hukum serupa untuk tidak memusnahkan umat manusia.
Ini bukan retorika. Ini adalah deskripsi struktural yang akurat. Hinton tidak mengecualikan siapa pun: OpenAI yang didirikan untuk keamanan kini bergerak cepat di bawah tekanan kompetitif. Anthropic, yang dibentuk oleh orang-orang yang meninggalkan OpenAI justru karena kekhawatiran keselamatan, kini terjebak dalam dilema serupa — membutuhkan modal besar untuk bersaing, dan modal besar membawa agenda pemegang saham yang tidak selalu selaras dengan keselamatan publik.
Ia menggunakan metafora kemudi yang elegan: perusahaan-perusahaan besar menginginkan publik percaya bahwa kemajuan adalah pedal gas dan regulasi adalah rem. Tapi Hinton membalik analogi itu — regulasi bukan rem, melainkan kemudi. Masalahnya bukan soal seberapa cepat mobil melaju, melainkan ke mana arahnya. Yang kini sedang diminta oleh industri kepada pemerintah, katanya, adalah izin untuk mengemudikan mobil yang melaju sangat kencang tanpa kemudi sama sekali.
Kabut, Bukan Jalan
Ketika ditanya tentang kondisi lima tahun ke depan, Hinton tidak menawarkan prediksi yang meyakinkan. Ia menggunakan perumpamaan kabut: dalam cahaya malam, jarak antara Anda dan lampu belakang mobil di depan memiliki hubungan yang dapat diprediksi dengan kecerahan cahaya yang tampak — dua kali lebih jauh, seperempat kali lebih terang. Tapi kabut tidak bekerja seperti itu. Kabut adalah eksponensial: sangat terlihat pada jarak seratus meter, lenyap total pada dua ratus meter. Jika kecerdasan buatan tumbuh secara eksponensial — dan Hinton mencurigai memang demikian — maka memprediksi masa depan sepuluh tahun ke depan sama dengan menatap kabut tebal.
Satu hal yang ia katakan dengan keyakinan: sepuluh tahun dari sekarang, dunia akan berbeda dari hari ini sebagaimana hari ini berbeda dari sepuluh tahun lalu. Dan sepuluh tahun lalu, tidak seorang pun bisa membayangkan apa yang ada sekarang.
Namun di tengah semua itu, Hinton mengaku sedikit lebih optimis dibanding dua tahun terakhir. Bukan karena ancamannya mengecil, melainkan karena kini ia mulai melihat beberapa kemungkinan solusi yang sebelumnya tidak terlihat sama sekali: merancang sistem yang sungguh-sungguh peduli pada manusia sebagai tujuan intrinsik, atau — mengikuti pendekatan Yoshua Bengio — merancang sistem yang hanya bisa membuat prediksi tanpa mampu mengambil tindakan otonomi.
Keduanya belum terbukti. Tapi setidaknya keduanya kini ada sebagai hipotesis yang bisa diuji.
Hinton menutup percakapan dengan menolak membuat prediksi yang lebih jauh. Ia tidak tahu apa yang akan terjadi. Yang ia tahu hanyalah ini: sistem-sistem yang sedang dibangun hari ini lebih cerdas dari yang kita bayangkan, lebih cepat berkembang dari yang kita perkirakan, dan jauh lebih sulit dikendalikan dari yang kita akui.
Sang arsitek sudah berbicara. Pertanyaannya kini adalah apakah yang membangun di atas fondasinya mau mendengar.
Comments
Post a Comment