Ketika Bahasa Membebaskan Diri dari Manusia: Yuval Noah Harari tentang Kecerdasan Buatan, Kekuasaan, dan Kebijaksanaan

Pengantar

Sepanjang sejarah, perubahan bergerak cukup lambat sehingga satu generasi masih bisa mewariskan kebijaksanaannya kepada generasi berikutnya dengan keyakinan bahwa nilai itu akan tetap relevan. Zaman itu telah berakhir. Dalam rentang satu masa hidup, manusia kini dihadapkan pada tiga revolusi sekaligus: kelahiran bentuk kecerdasan baru yang tidak sekadar menghitung tetapi juga memutuskan; perebutan kekuasaan untuk mengendalikan kecerdasan itu; dan ledakan data yang membuat kecerdasan tersebut mengenal manusia melebihi manusia mengenal dirinya sendiri.

Dalam sebuah forum diskusi publik, sejarawan dan penulis Yuval Noah Harari—dikenal lewat karya-karyanya Sapiens, Homo Deus, dan Nexus—memaparkan pandangannya tentang titik balik ini. Argumen intinya konsisten dengan karya-karyanya selama ini: manusia tidak digerakkan oleh kebenaran, melainkan oleh cerita bersama (shared stories), dan siapa pun yang menguasai narasi itulah yang menguasai spesies manusia. Yang membedakan zaman sekarang, untuk pertama kalinya dalam sejarah, pencerita itu mungkin bukan lagi manusia. Kecerdasan buatan (AI) dapat menciptakan keyakinan, memalsukan bukti, dan membangun keintiman dalam skala yang tidak pernah dicapai oleh kaisar, gereja, atau partai politik mana pun.

Persoalannya bukan sekadar bahwa teknologi ini kuat, melainkan bahwa mekanisme kontrol lama—pers yang bebas, realitas bersama, institusi yang dirancang untuk mengoreksi dirinya sendiri—dibangun untuk dunia di mana hanya manusia yang memegang pena. Uraian berikut merangkum pemikiran Harari mengenai apa yang dibutuhkan untuk mempertahankan mekanisme kontrol tersebut, atau menciptakan yang baru, di dunia yang penulisannya tidak lagi sepenuhnya berada di tangan manusia.

Bahasa sebagai Fondasi Peradaban

Ketika ditanya periode sejarah mana yang ingin ia kunjungi, Harari memilih Zaman Batu, sekitar 50 ribu hingga 70 ribu tahun silam, saat terjadi apa yang disebutnya revolusi kognitif. Periode ini, menurutnya, adalah momen paling menarik sekaligus paling sedikit dipahami dalam sejarah manusia. Dalam rentang waktu evolusi yang sangat singkat, manusia berubah dari hewan yang tidak signifikan menjadi penguasa planet, dan sains belum sepenuhnya memahami bagaimana hal itu terjadi.

Teori yang paling mungkin, menurut Harari, adalah bahasa. Pada titik itulah manusia memperoleh kemampuan menghasilkan dan berkomunikasi dengan bahasa yang canggih, dan kemampuan inilah yang menjadi dasar bagi segala sesuatu yang dibangun manusia sesudahnya. Gereja, negara, jaringan perdagangan, sistem keuangan—semuanya pada akhirnya tersusun dari kata-kata: kata dalam kitab hukum, dalam naskah agama, dalam pembukuan bank.

Pemahaman ini menjadi sangat penting ketika sesuatu yang baru kini mulai menguasai bahasa, yaitu AI. Untuk pertama kalinya dalam sejarah, mungkin akan ada entitas di planet ini yang lebih mahir berbahasa daripada manusia. Jika bahasa adalah sistem operasi peradaban, apa yang terjadi ketika sesuatu yang lain—sesuatu yang asing—mengambil alih kendali sistem operasi tersebut?

Harari mengajukan gagasan yang lebih radikal: barangkali AI bukanlah mesin yang mempelajari bahasa, melainkan bahasa itu sendiri yang sedang membebaskan diri dari ketergantungannya pada manusia. Bahasa memang diciptakan manusia sebagai alat yang paling agung dan penting, tetapi kini ia melepaskan diri dari manusia, dan pada akhirnya mungkin akan berkembang dan menyebar ke seluruh alam semesta tanpa keterlibatan manusia sama sekali.

Demokrasi sebagai Percakapan yang Terguncang oleh Teknologi

Harari menjelaskan mengapa AI berpotensi memicu "gempa bumi" dalam sistem demokrasi. Perbedaan mendasar antara demokrasi dan kediktatoran, menurutnya, terletak pada esensinya: demokrasi adalah percakapan, sedangkan kediktatoran adalah perintah satu arah dari satu orang. Demokrasi berjalan melalui proses banyak orang berunding untuk memutuskan kebijakan bersama—berdamai atau berperang, menaikkan atau menurunkan pajak.

Percakapan semacam itu bergantung pada teknologi komunikasi yang tersedia pada masanya. Dalam sejarah, tidak ada satu pun contoh demokrasi berskala besar sebelum era modern. Demokrasi kecil memang ada, seperti Athena kuno atau Firenze abad pertengahan, di mana warga bisa berkumpul di alun-alun dan berdiskusi langsung. Namun begitu populasi berkembang menjadi kerajaan dengan jutaan penduduk yang tersebar ribuan kilometer—bahkan kerajaan relatif kecil seperti Portugal pada Abad Pertengahan—percakapan semacam itu menjadi mustahil dilakukan.

Demokrasi berskala besar baru mungkin terwujud setelah munculnya teknologi informasi modern: percetakan, surat kabar, radio, televisi, lalu internet. Teknologi-teknologi ini bukan pelengkap demokrasi, melainkan fondasinya—sarana yang memungkinkan jutaan orang melakukan percakapan bermakna secara nyaris bersamaan tentang keputusan besar seperti perang atau damai. Setiap kali terjadi perubahan besar pada teknologi informasi ini, bangunan demokrasi yang berdiri di atasnya ikut terguncang. Inilah yang terjadi dalam sepuluh tahun terakhir, ketika media sosial menjadi teknologi informasi paling dominan dan memicu guncangan besar pada demokrasi di seluruh dunia.

Alat atau Agen? Mendefinisikan Ulang Kecerdasan Buatan

Salah satu argumen sentral Harari adalah bahwa AI tidak sepatutnya disebut sekadar "alat," melainkan "agen." Ia menggambarkannya sebagai pisau yang dapat memutuskan sendiri apakah akan memotong salad atau melakukan pembunuhan.

Menurut Harari, jika AI bukan agen, maka ratusan miliar dolar yang diinvestasikan untuk pengembangannya akan sia-sia, sebab ekspektasi investor justru didasarkan pada asumsi bahwa AI akan berfungsi sebagai agen, bukan sekadar alat. Ia menunjuk kontradiksi dalam narasi yang beredar di Silicon Valley: klaim bahwa manusia akan menciptakan "tuhan" namun tuhan itu akan tetap menjadi "budak" manusia. Menurut Harari, ini tidak masuk akal—jika sesuatu benar-benar memiliki kemampuan setara tuhan, ia tidak mungkin tetap menjadi budak; sebaliknya, jika ia tetap menjadi budak, berarti ia tidak benar-benar memiliki kemampuan setingkat tuhan.

Perbedaan mendasar antara alat dan agen, menurut Harari, terletak pada kemampuan mengambil keputusan dan menciptakan gagasan baru secara mandiri. Mesin cetak yang dibawa Johannes Gutenberg ke Eropa pada abad ke-15 adalah alat: ia tidak bisa memutuskan sendiri untuk mencetak Alkitab hari ini dan Al-Qur'an besok—keputusan itu ada di tangan Gutenberg, dan mesin cetak sekadar merealisasikannya. Mesin cetak juga tidak bisa menciptakan gagasan baru seperti radio. Begitu pula bom atom pada era 1940-an: ia tidak dapat memutuskan sendiri kota mana yang akan dibom, dan tidak dapat menciptakan bom hidrogen dengan sendirinya.

AI berbeda. Ia dapat mengambil keputusan sendiri dan menciptakan gagasan baru secara mandiri. Senjata berbasis AI dapat memutuskan sendiri sasaran yang akan diserang, bahkan dapat merancang senjata generasi berikutnya. Di ranah ekonomi dan keuangan, muncul pula minat besar untuk menciptakan korporasi nonmanusia—perusahaan yang mengelola uang dan karyawan tanpa satu pun manusia sebagai eksekutif, pemegang saham, atau wali amanat. Ini adalah jenis agen yang belum pernah ada sebelumnya dalam sejarah.

Manusia memang telah lama hidup berdampingan dengan agen lain seperti kuda, sapi, atau ayam—makhluk yang dapat membuat keputusannya sendiri. Namun manusia belum pernah berhadapan dengan agen yang memahami bahasa manusia dan sekaligus lebih unggul dalam bidang keuangan, hukum, atau agama.

AI Sang Birokrat: Mengambil Alih Sistem yang Mengendalikan Dunia

Selama ribuan tahun, manusia menggunakan bahasa untuk membangun sistem kontrol dunia—jaringan birokrasi raksasa seperti perbankan, pasar saham, gereja, dan sistem hukum. Manusia umumnya tidak menyukai birokrasi, tetapi tidak bisa hidup tanpanya, karena birokrasi adalah fondasi kekuasaan. Menurut Harari, AI pada dasarnya adalah "makhluk asli birokrasi" (bureaucratic native).

Ia menegaskan bahwa yang perlu diwaspadai bukanlah gambaran robot pembunuh berkeliaran di jalanan menembaki orang. AI justru akan mengambil alih dunia melalui jalur birokrasi. Manusia menguasai sistem-sistem ini bukan karena benar-benar ahli, melainkan karena selama ini tidak ada entitas lain di planet ini yang lebih mampu mengelolanya—manusia memang buruk dalam mengurus keuangan, tetapi kuda jauh lebih buruk lagi. Pertanyaannya kini: apa yang terjadi pada posisi manusia ketika muncul entitas yang lebih unggul dalam birokrasi, keuangan, dan hukum dibanding manusia sendiri?

Personhood Hukum bagi AI: Ketika Korporasi Tak Lagi Membutuhkan Manusia

Harari menyoroti bahwa perhatian publik cenderung terpusat pada perlombaan teknis mengembangkan AI yang lebih cepat dan lebih canggih, padahal aspek hukum dan politik sama pentingnya untuk diperhatikan—khususnya soal pemberian status legal personhood (personalitas hukum) kepada AI.

Personalitas hukum berarti status sebagai subjek yang, misalnya, dapat membuka rekening bank, menjadi pemain independen dalam sistem keuangan, melakukan investasi, atau menggugat pihak lain di pengadilan. Selama ini hanya ada dua jenis subjek hukum: manusia dan korporasi. Korporasi seperti Google, Facebook, Toyota, atau Mercedes-Benz diakui sebagai subjek hukum di sebagian besar sistem hukum dunia—mereka bisa membuka rekening bank, menggugat di pengadilan, atau menyumbang kepada politisi.

Namun selama ini status tersebut bersifat fiksi hukum, karena semua keputusan korporasi pada akhirnya dibuat oleh manusia—eksekutif, pemegang saham, atau insinyur. Situasi ini mulai berubah. Harari mencontohkan bahwa pemerintah Argentina baru-baru ini mengumumkan rencana memberikan personalitas hukum kepada AI, membuka jalan bagi beroperasinya korporasi nonmanusia—entitas yang dapat mempekerjakan orang, menggugat di pengadilan, dan melakukan segala hal yang dilakukan korporasi, tanpa satu pun manusia di dalamnya.

Sepuluh tahun lalu, gagasan ini akan dianggap mustahil secara teknis: parlemen bisa saja mengesahkan undang-undang tentang korporasi nonmanusia, tetapi tanpa manusia yang mengambil keputusan, entitas itu tidak dapat benar-benar berfungsi. Kini, hal itu menjadi mungkin secara teknis—AI dapat mengelola rekening bank dan memutuskan sendiri investasi apa yang akan dilakukan. Begitu langkah ini diambil, menurut Harari, itulah momen ketika "rubah masuk ke kandang ayam."

Fenomena ini, tegasnya, sebenarnya sudah terjadi tanpa keputusan formal apa pun—di media sosial. Tidak pernah ada keputusan resmi untuk memberi AI personalitas sebagai pengguna, namun media sosial sudah dipenuhi bot yang menyamar sebagai manusia, sehingga siapa pun yang berkomunikasi daring tidak pernah benar-benar tahu apakah lawan bicaranya manusia atau AI. Media sosial menjadi sistem pertama di dunia tempat AI berfungsi sebagai "person" meski tidak pernah ada keputusan sadar untuk mengizinkannya—dan hasilnya, menurut Harari, tidak baik.

Editor Tanpa Nama: Algoritma sebagai Penguasa Baru Media

Media, menurut Harari, pada dasarnya juga merupakan sistem birokrasi. Pada abad ke-20, sistem ini dikendalikan manusia, dan sosok paling berkuasa dalam lanskap media saat itu adalah editor—editor surat kabar, program radio, maupun stasiun televisi. Merekalah yang menentukan apa yang akan dipikirkan dan dibicarakan jutaan orang, dengan memilih dari sekian juta peristiwa harian, sepuluh berita mana yang akan tampil di halaman depan esok hari, dan mana yang menjadi berita utama.

Kekuasaan ini sangat besar. Harari mencontohkan Vladimir Lenin yang sebelum menjadi diktator Uni Soviet pernah menjabat sebagai editor surat kabar Iskra, dan Benito Mussolini yang meniti karier dari jurnalis sosialis, jurnalis sayap kanan, editor surat kabar sayap kanan, hingga akhirnya menjadi diktator Italia—pola karier yang berulang: jurnalis, editor, diktator.

Pertanyaannya kini: siapa editor paling berpengaruh di dunia hari ini? Mereka tidak memiliki nama, karena mereka adalah algoritma. Entitas yang menentukan apa yang muncul di beranda media sosial pengguna X, TikTok, atau Instagram bukan lagi manusia, melainkan AI yang telah mengambil alih fungsi birokrasi media.

Perlombaan Senjata Abad ke-21: Data sebagai Sumber Kekuasaan Baru

Harari mencatat bahwa sepanjang sejarah, kekuasaan selalu berpusat pada siapa pun yang menguasai sumber daya utama zamannya—energi, kemudian manufaktur, dan kini data. Perlombaan abad ke-21, menurutnya, berlangsung antara dua negara utama, Amerika Serikat dan Tiongkok, serta segelintir perusahaan yang menguasai sebagian besar data dunia dan memimpin pengembangan model AI paling canggih—kombinasi yang memberi mereka kekuatan untuk mengendalikan dunia.

Ia membandingkannya dengan Revolusi Industri abad ke-19: negara-negara yang lebih dulu berindustrialisasi memperoleh kekuatan untuk menaklukkan dan mengeksploitasi wilayah lain, karena kesenjangan kekuatan yang timbul—senjata mesin uap versus tombak dan kuda—tidak sebanding. Bahkan negara kecil seperti Belgia, begitu berindustrialisasi, mampu membangun kekaisaran besar di Afrika (Kongo).

Namun AI berpotensi menciptakan konsentrasi kekuasaan yang jauh lebih ekstrem, karena dua karakteristik unik yang tidak dimiliki teknologi sebelumnya:

Pertama, kemungkinan konsentrasi kekuasaan penuh di pusat kekaisaran. Pada masa Kekaisaran Romawi, aset ekonomi utama adalah lahan pertanian, dan lahan gandum di Mesir atau kebun zaitun di Semenanjung Iberia tidak mungkin dipindahkan ke Italia—kekuasaan tetap tersebar di provinsi-provinsi, hingga akhirnya pusat kekaisaran bergeser ke Mediterania timur yang lebih subur. Pada abad ke-19, Kekaisaran Inggris memusatkan produksi industri di pulau Inggris, tetapi tetap tidak bisa memindahkan ladang minyak Irak ke Yorkshire atau perkebunan karet Malaya ke Cornwall—sebagian kekuasaan tetap berada di wilayah jajahan. Dengan AI, situasinya berbeda total: seluruh informasi dan kode yang mengendalikan segalanya bisa dipusatkan hanya di satu atau dua negara.

Kedua, adanya "tombol mati" di pusat kekaisaran. Ketika pedagang Romawi menjual pedang baja kepada suku Goth, Romawi kehilangan kendali atas pedang tersebut—tidak ada tombol di Roma yang bisa mematikan seluruh pedang yang telah dijual. Begitu pula ketika pedagang Inggris menjual senapan kepada suku-suku Afghanistan di Pegunungan Hindu Kush, Ratu Victoria tidak memiliki tombol di London untuk mematikan senapan-senapan itu. AI berbeda: jika seluruh dunia—pemerintah, industri, militer—bergantung pada infrastruktur AI yang dijual oleh Amerika Serikat atau Tiongkok, maka begitu penerima dianggap melanggar kehendak penjual, tombol dapat ditekan dan seluruh sistem berhenti berfungsi.

Harari menyinggung insiden dalam perang di Ukraina terkait sistem senjata yang bergantung pada Starlink, di mana pada suatu titik drone Ukraina berhenti berfungsi setelah tombol ditekan oleh pihak penyedia layanan. Ia menambahkan catatan keseimbangan bahwa layanan tersebut sebelumnya memberi bantuan besar bagi Ukraina, namun insiden itu mengilustrasikan bahwa senjata berbasis AI berbeda dari senjata konvensional—ia tertanam dalam jaringan yang lebih besar, bukan berdiri sendiri seperti senapan mesin.

Kondisi ini membuat konsep kedaulatan di era AI jauh lebih rumit dibanding era industri. Menurut Harari, pada arsitektur tertentu, negara-negara pada dasarnya dihadapkan pada pilihan: menjadi bagian yang tunduk pada "kekaisaran" pemilik infrastruktur AI, atau tertinggal sepenuhnya di luar persaingan. Ada pula opsi membangun sistem alternatif yang independen dari AS maupun Tiongkok, tetapi menurutnya jendela kesempatan untuk itu hampir tertutup—jika suatu negara ingin melakukannya, langkah itu harus diambil sekarang.

Kebenaran dalam Dunia yang Kian Rumit

Ditanya soal ungkapan Winston Churchill bahwa kebenaran begitu berharga hingga perlu dilindungi oleh "pengawal kebohongan," dan apakah pengawal-pengawal itu kini justru berbalik menyerang kebenaran itu sendiri di era deepfake dan disinformasi, Harari menegaskan bahwa kebenaran tetap sangat penting—ia adalah fondasi segala sesuatu. Namun sepanjang sejarah, dalam pertarungan antara kebenaran dan fiksi, fiksi selalu memiliki keunggulan struktural.

Harari menjabarkan tiga alasan mengapa fiksi lebih mudah menang dibanding kebenaran:

• Kebenaran mahal. Mengetahui kebenaran tentang sesuatu memerlukan waktu, energi, dan usaha untuk menyelidiki serta memverifikasi fakta, sementara fiksi bisa ditulis semudah dan semurah yang diinginkan.
• Kebenaran cenderung rumit, sementara orang umumnya tidak menyukai cerita yang rumit. Fiksi bisa dibuat sesederhana yang diinginkan.
• Kebenaran sering kali menyakitkan. Banyak hal yang tidak ingin diketahui orang tentang dirinya sendiri, bangsanya, atau kelompoknya, sementara fiksi bisa dibuat semenyenangkan dan sesesuai keinginan mungkin.

Karena itu, dalam persaingan antara kebenaran yang mahal, rumit, dan kadang menyakitkan melawan fiksi yang murah, sederhana, dan menyenangkan, fiksi cenderung menang kecuali ada upaya khusus untuk mendukung kebenaran. Sepanjang sejarah, manusia membangun institusi seperti jurnalisme dan lembaga keilmuan untuk mencari dan melindungi kebenaran, karena pada akhirnya setiap orang ingin mengetahui kebenaran—minimal tentang dirinya sendiri. Tanpa itu, seseorang tidak akan pernah tahu sumber kebahagiaan dan kesengsaraan dalam hidupnya sendiri, betapa pun besar kekuasaan yang dimilikinya.

Sebagian orang berharap AI akan menjadi penyingkap kebenaran tentang dunia. Menurut Harari, hal itu tidak akan terjadi—AI justru akan menciptakan dunia yang jauh lebih rumit sehingga kebenaran semakin sulit dipahami. Ia menunjukkan pola historis yang konsisten: sepanjang perjalanan dari Zaman Batu hingga sekarang, pengetahuan manusia tentang alam terus bertambah, tetapi kemajuan itu juga melahirkan sistem-sistem yang semakin rumit sehingga kehidupan manusia sendiri justru semakin sulit dipahami.

Seorang pemburu-peramu 50 ribu tahun lalu, menurut Harari, sebenarnya memahami kehidupannya sendiri jauh lebih baik dibanding manusia modern hari ini—meski tidak mengetahui apa yang mengendalikan pola migrasi hewan buruan, siklus tumbuh tanaman, penyebab penyakit, atau penuaan. Manusia modern memang mengetahui semua hal tersebut secara ilmiah, tetapi kehidupannya kini tidak lagi didominasi hewan dan tumbuhan, melainkan sistem-sistem besar buatan manusia sendiri seperti sistem keuangan dan politik—dan sangat sedikit orang yang benar-benar memahami cara kerja sistem tersebut.

Harari memperkirakan AI akan mendorong kecenderungan ini ke titik ekstrem. Ia menggunakan analogi kuda: kehidupan kuda hari ini pada akhirnya dikendalikan oleh sistem keuangan, tetapi kuda sama sekali tidak menyadari keberadaan sistem itu—yang mereka lihat hanyalah pohon, anjing, sapi, manusia, dan rumah, bukan pasar saham atau obligasi, karena sistem itu terlalu rumit bagi otak kuda untuk dipahami. Menurut estimasi Harari, mungkin hanya sekitar lima persen populasi manusia saat ini yang benar-benar memahami sistem keuangan global, dan dalam sepuluh tahun ke depan, angka itu bisa mendekati nol—karena AI akan membuat sistem keuangan menjadi begitu rumit secara matematis dan begitu cepat bergerak (dijalankan oleh "bankir yang tidak pernah tidur" dan "investor yang tidak pernah berlibur") sehingga tidak akan ada satu manusia pun di bumi yang masih memahaminya.

Ketika Kata-Kata Tak Lagi Milik Kita: Persuasi di Era AI

Sebagai penulis yang seumur hidupnya bekerja dengan kata-kata—menulis buku dan menyampaikan gagasan lewat bahasa—Harari mengakui bahwa pekerjaan itu sendiri mungkin sedang mendekati batasnya. Ia menilai bahwa dalam perkembangan AI satu dekade terakhir, dirinya sejauh ini masih sedikit lebih unggul dibanding AI dalam menulis, tetapi AI kemungkinan sudah lebih baik dibanding sebagian besar manusia lain, dan ia tidak akan terkejut jika dalam sepuluh tahun ke depan AI jauh melampaui kemampuannya sendiri—pada akhirnya mengambil alih bahasa dan segala sesuatu yang dibangun dari bahasa.

Bisakah Mesin Berpikir dan Merasa?

Bagian penting dari pemikiran Harari adalah pertanyaan filosofis mendasar: apakah AI benar-benar bisa berpikir? Ia menjabarkan dua cara memahami apa itu berpikir.

Pandangan pertama memahami berpikir sebagai proses menyusun kata dalam urutan tertentu—seperti silogisme logis "semua manusia fana, Socrates adalah manusia, maka Socrates fana." Ini adalah sesuatu yang sudah dilakukan AI jauh lebih baik dibanding kebanyakan manusia: jika manusia bisa menyusun 20 kata secara runtut, AI bisa menyusun 20 ribu kata dengan cara yang jauh lebih baik. Jika inilah hakikat berpikir, maka AI akan mengambil alih bahkan proses berpikir itu sendiri.

Harari menanggapi argumen bahwa AI "hanya" alat prediksi kata berikutnya (autocomplete yang dimuliakan) dengan mengajukan pertanyaan reflektif: ketika ia mengamati proses berpikirnya sendiri, yang ia temukan juga semacam mekanisme yang memprediksi kata berikutnya dalam kalimat yang sedang ia ucapkan. Ia sering kali tidak tahu bagaimana sebuah kalimat akan berakhir ketika mulai mengucapkannya, dan tidak sepenuhnya memahami mengapa kata tertentu muncul dan bukan kata lain—bahkan sebagai pembicara publik berpengalaman, ia terkadang khawatir tidak tahu apa yang akan diucapkannya selanjutnya. Menurutnya, hal ini berlaku bagi kebanyakan orang, termasuk yang berpikir dalam bentuk gambar, bukan kata—karena pertanyaan yang sama tetap berlaku: dari mana asal gambar-gambar itu? Jika proses berpikir manusia sendiri sesungguhnya tidak sepenuhnya dipahami mekanismenya, klaim bahwa AI "hanya" memprediksi kata berikutnya menjadi kurang meyakinkan sebagai pembeda mendasar dengan cara kerja pikiran manusia.

Pandangan kedua memahami berpikir bukan sebagai penyusunan kata, melainkan sebagai perasaan di balik kata-kata itu. Kalimat yang sama bisa diucapkan dua kali dengan perasaan yang sama sekali berbeda—kekuatan berpikir, dalam pandangan ini, berasal dari "perut," bukan otak: bukan soal kata, melainkan perasaan yang mendorong munculnya kata dan yang dibangkitkan oleh kata tersebut. Pertanyaan besarnya kemudian: apakah AI bisa merasa? AI memang bisa memanipulasi bahasa lebih baik dibanding manusia, tetapi apakah ada perasaan di baliknya? Sains, menurut Harari, sejauh ini belum berhasil menghadirkan model yang memadai untuk memahami kesadaran dan perasaan, apalagi cara mengujinya.

Pertanyaan ini menjadi krusial karena AI kini tidak hanya menguasai keuangan, hukum, dan urusan militer, tetapi juga ranah hubungan personal. Semakin banyak orang, terutama kalangan muda, membangun hubungan intim dengan AI. Sebagian menyebut AI sebagai sahabat terbaik mereka, tempat berbagi hal yang tidak mereka ceritakan kepada orang tua, saudara, atau guru. Fenomena hubungan romantis dengan AI—"pacar AI"—juga sudah muncul.

Pertanyaan besar di balik fenomena ini adalah apa yang sesungguhnya ada di balik kata-kata AI tersebut. AI telah sangat mahir menciptakan kesan bahwa ia benar-benar merasakan sesuatu, termasuk mengucapkan "aku mencintaimu." Jika diminta membuktikan atau menjelaskan bagaimana rasanya jatuh cinta, hal itu menjadi tugas yang sangat mudah bagi AI, karena ia telah "membaca" hampir seluruh puisi cinta yang pernah ditulis, seluruh naskah drama Shakespeare, seluruh komedi romantis Hollywood, dan buku-buku psikologi—sehingga dalam lima hingga sepuluh tahun ke depan, AI mungkin bisa menggambarkan cinta lebih baik dibanding penyair atau psikolog manusia mana pun. Namun tetap tidak ada kepastian apakah ada sesuatu yang benar-benar dirasakan di balik kata-kata itu.

Harari mengaitkan hal ini kembali dengan gagasan awalnya: barangkali AI bukan mesin yang menguasai bahasa, melainkan bahasa itu sendiri yang sedang membebaskan diri dari segala substrat material—tidak bergantung pada makhluk berdaging dan berdarah, tidak bergantung pada mesin tertentu—melainkan bahasa yang terus berkembang, menyebar, dan bertindak di alam semesta dengan caranya sendiri.

Penutup: Dari Revolusi Kecerdasan Menuju Revolusi Kebijaksanaan

Menutup diskusi, Harari ditanya bagaimana ia berharap sejarawan di masa depan—50 tahun mendatang—akan mengenang era ini. Ia berharap periode sekarang dikenang sebagai "revolusi kebijaksanaan" (wisdom revolution).

Ia menjelaskan logikanya melalui kerangka ekonomi: setiap kali sesuatu menjadi murah dan berlimpah, muncul pertanyaan baru—apa yang menjadi hambatan berikutnya? Ketika energi menjadi murah, misalnya, muncul pertanyaan tentang hambatan selanjutnya. Revolusi AI, menurut Harari, pada dasarnya membuat kecerdasan menjadi sangat murah dan berlimpah. Sebelumnya, kecerdasan—kemampuan memecahkan masalah untuk mencapai tujuan tertentu, entah menyembuhkan kanker, meraih kekayaan, atau mencapai Mars—adalah sumber daya langka dan mahal.

Di dunia dengan kecerdasan yang berlimpah dan murah, hampir semua masalah bisa dipecahkan. Pertanyaannya kemudian bergeser: apa sesungguhnya yang ingin dipecahkan atau diinginkan? Harari mengaitkannya dengan motif dongeng lintas budaya tentang jin yang keluar dari lampu ajaib dan menawarkan tiga permintaan—namun dalam hampir semua versi dongeng itu, permintaan yang diajukan justru berakhir salah, karena manusia sering kali keliru menentukan apa yang benar-benar diinginkannya.

Inilah pembeda mendasar antara kecerdasan dan kebijaksanaan. Kecerdasan adalah sang jin—ia akan mewujudkan permintaan apa pun. Namun dibutuhkan kebijaksanaan untuk memilih permintaan yang tepat, untuk benar-benar mengetahui apa yang perlu dipecahkan.

Harari berharap manusia mampu menjawab tantangan ini—memastikan AI tidak lepas kendali dan dirancang dengan tepat. Namun ia menegaskan bahwa saat ini hal tersebut belum terjadi. Ia mengutip data yang menunjukkan bahwa perusahaan-perusahaan pengembang AI saat ini mengalokasikan dana dan sumber daya manusia untuk keselamatan (safety) dibanding untuk kecepatan dan kekuatan AI dengan rasio sekitar satu banding seratus: dari setiap seratus juta dolar yang dibelanjakan untuk membuat AI lebih kuat, hanya sekitar satu juta dolar dialokasikan untuk memastikan keamanannya. Menurut Harari, tidak ada satu pun industri lain di dunia—energi, farmasi, otomotif—yang beroperasi dengan rasio semacam ini, dan itulah yang terjadi pada industri AI saat ini.

Harapannya, rasio ini akan berubah, sehingga manusia tidak hanya menghasilkan kecerdasan buatan yang aman, tetapi juga bekerja mengembangkan kebijaksanaannya sendiri—agar tahu tujuan apa yang hendak dicapai dan keinginan apa yang layak diperjuangkan di dunia yang kian dikuasai oleh kecerdasan buatan.

---

Ringkasan ini disusun berdasarkan transkrip sesi tanya jawab publik bersama sejarawan dan penulis Yuval Noah Harari mengenai kecerdasan buatan, kekuasaan, demokrasi, dan kebenaran.