Kecerdasan, Alat, dan Batas Mesin: Pelajaran dari Percakapan dengan David Krakauer

source: https://www.youtube.com/watch?v=bcpQkvBCACw

Ringkasan utuh dari wawancara di kanal StarTalk bersama David Krakauer, ahli biologi evolusi sekaligus presiden Santa Fe Institute, lembaga kajian sistem kompleks di New Mexico, Amerika Serikat.

Apa yang Disebut Kecerdasan

Krakauer mendefinisikan kecerdasan sebagai kemampuan membuat masalah sulit menjadi mudah. Definisi ini berlaku bagi semua makhluk hidup, termasuk tumbuhan. Makhluk cerdas menemukan cara yang efisien untuk menyelesaikan masalah, bukan cara yang boros.

Ia menghubungkan kecerdasan dengan kehidupan. Makhluk hidup adalah materi yang tertata, mampu merasakan lingkungannya, dan bertindak agar dirinya bertahan atau berkembang biak. Karena itu, kehidupan tanpa kecerdasan sulit dibayangkan. Sebaliknya, kecerdasan tanpa kehidupan mungkin saja ada.

Ada satu teka-teki teoretis di sini. Kehidupan bersifat dua kutub: sesuatu hidup atau tidak, dan kutu tidak "kurang hidup" dibanding gajah. Kecerdasan justru berjenjang. Bagaimana sistem yang dua kutub dapat melahirkan sesuatu yang berjenjang adalah persoalan pokok dalam asal-usul kecerdasan.

Krakauer juga menilai kecerdasan sangat bergantung pada konteks. Manusia yang merusak dunianya sendiri tidak bertindak demi kelangsungan hidupnya. Menurutnya, itu perbuatan bodoh, dan itu mengurangi nilai kecerdasannya.

Kecerdasan Bersama: Bagian dan Keseluruhan

Kecerdasan kolektif dapat ditemukan pada kawanan burung, gerombolan ikan, bahkan bakteri di dalam usus. Otak manusia pun contohnya. Miliaran sel saraf yang sederhana saling terhubung, lalu melahirkan pikiran, matematika, dan musik.

Namun, hubungan bagian dan keseluruhan tidak selalu searah. Sel yang sederhana dapat membentuk otak yang luar biasa. Sebaliknya, individu yang cerdas belum tentu membentuk masyarakat yang cerdas. Gerombolan massa yang beringas, misalnya, makin bodoh seiring bertambahnya jumlah orang, tetapi makin kompak dalam niat dan tindakan.

Hal ini berkaitan dengan apa yang dalam biologi disebut transisi evolusi besar: dari sel tunggal ke makhluk bersel banyak, lalu ke jaringan dan organisme. Pada setiap tahap, belum tentu gabungan itu lebih cerdas daripada bagian-bagiannya.

Bahasa: Pemakaian Tanpa Batas atas Sarana Terbatas

Banyak hewan berkomunikasi. Lebah memberi tahu arah, paus bungkuk memanggil bantuan saat diserang paus pembunuh, dan monyet vervet memperingatkan kawanannya tentang elang atau macan tutul. Namun, para ahli membedakan isyarat dari bahasa.

Krakauer merujuk pada filsuf Charles Peirce yang membedakan indeks, ikon, dan simbol. Isyarat monyet vervet bersifat indeks: satu bunyi selalu berarti satu bahaya dan memicu satu perilaku. Pada manusia, bunyi apa pun dapat dipasangkan dengan tanggapan apa pun, serumit apa pun, dan pasangan itu dipelajari seumur hidup.

Ia mengutip Alexander von Humboldt, naturalis abad ke-18 yang meletakkan dasar ekologi. Menurut Humboldt, bahasa manusia memakai sarana yang terbatas secara tak terbatas. Dengan tata bahasa yang terbatas, kita dapat menyusun hampir semua pikiran.

Bahasa juga melepaskan kita dari ruang dan waktu saat ini. Karena itu, perilaku manusia sulit ditebak dari luar. Orang yang duduk diam di perpustakaan dapat memikirkan apa saja. Bahasa menghasilkan kecerdasan yang besar, tetapi juga kebodohan yang besar, seperti perang dan pertikaian. Jadi, bahasa tidak identik dengan kecerdasan.

Kecerdasan, Kesadaran, dan Alam Bawah Sadar

Krakauer mengikuti ahli saraf Anil Seth: kecerdasan berurusan dengan pemecahan masalah, sedangkan kesadaran berurusan dengan keberadaan dan perasaan. Kesadaran dalam arti ini sangat purba. Setiap makhluk yang harus menjaga keutuhan dirinya di lingkungan, termasuk sel tunggal, memerlukan semacam rasa diri.

Sepanjang sejarah evolusi, makhluk hidup memecahkan masalah tanpa bahasa. Dengan demikian, sumber daya saraf untuk bekerja di bawah sadar jauh lebih besar daripada lapisan tipis korteks depan yang kita kaitkan dengan kesadaran.

Gagasan ini tampak dalam keahlian. Keahlian lahir dari latihan hingga menjadi otomatis. Atlet yang sedang menembak bola tidak boleh terlalu banyak berpikir. Hal yang sama berlaku bagi ahli matematika. Menurut Krakauer, kita mempelajari keterampilan lewat bahasa, melatihnya sampai bahasa tidak diperlukan lagi, lalu kembali ke keadaan yang nyaris berupa gerak refleks. Chuck Nice, salah satu pembawa acara, menggambarkan pengalamannya melawak secara spontan: bagian bawah sadarnya terasa dapat diakses oleh pikiran sadarnya.

Contoh klasiknya adalah penemuan struktur cincin benzena oleh Kekulé, yang menurut kisahnya terilhami mimpi tentang ular yang menggigit ekornya sendiri. Novelis Cormac McCarthy pernah menulis esai tentang hal ini. Bagi McCarthy, alam bawah sadar jauh lebih tua daripada bahasa, sehingga ia berbicara lewat gambar dan simbol, bukan kata. Kekulé baru kemudian menerjemahkan gambar itu ke dalam bahasa kimia. Krakauer menduga proses bawah sadar ini bersifat universal, sedangkan lapisan budaya yang dipakai untuk menjelaskannya, seperti nama dewa atau tokoh suci, berbeda-beda.

Mengapa Model Bahasa Besar Berbeda dari Kita

Krakauer menyebut tiga perbedaan mendasar antara manusia dan model bahasa besar (large language model, disingkat LLM).

Pertama, LLM tidak memiliki kesadaran purba yang dimiliki semua makhluk hidup. Kedua, LLM langsung dimulai dari bahasa dan tidak memiliki alam bawah sadar. Ketiga, LLM belajar dari bahasa kolektif, yaitu hampir semua buku yang pernah ditulis, bukan dari pengalaman seorang individu. Karena itu pula, LLM tidak bermimpi.

Akibat terpenting adalah soal efisiensi. LLM dapat menyelesaikan hampir semua masalah, tetapi dengan cara yang sangat boros. Krakauer mengibaratkannya dengan makan sup menggunakan garpu: bisa, asalkan waktu dan tenaganya cukup. Contohnya, sebuah LLM baru-baru ini disebut berhasil menemukan solusi atas persoalan singularitas pada persamaan Navier–Stokes, tetapi dengan biaya puluhan juta dolar dan ribuan agen, hanya dari masukan teks.

Manusia berevolusi di dunia yang waktu dan tenaganya terbatas. Seandainya manusia mencapai kecerdasannya dengan cara LLM, menurut Krakauer, tenaga kita sudah habis ratusan ribu tahun lalu. Ia menegaskan bahwa orang tidak disebut cerdas hanya karena mampu. Jika seseorang berlari mengelilingi ruangan dua puluh kali untuk mengambilkan segelas air, masalahnya selesai, tetapi kita tidak akan menyebutnya cerdas. Maka ia lebih suka menyebut kerja LLM sebagai kemampuan, bukan kecerdasan. Neil deGrasse Tyson menambahkan bahwa AI yang benar-benar cerdas akan menemukan cara bekerja dengan energi yang lebih sedikit.

Perbedaan lain terletak pada cara belajar. Manusia belajar lewat kurikulum yang bertahap: bilangan asli, pecahan, lalu aljabar. LLM belajar semuanya sekaligus. Akibatnya, LLM cenderung memakai kaidah kira-kira yang rumit, bukan algoritma yang pasti. Pada pembagian bersusun dengan angka yang sangat banyak, LLM terbaik pun dipastikan akan salah, tetapi tampil yakin. Di sinilah bahayanya: jika kita sudah menyerahkan semuanya kepada mesin, kita tidak lagi mampu membedakan jawaban yang benar dari yang keliru.

Alat yang Melengkapi dan Alat yang Menggantikan

Krakauer berangkat dari filsuf Henri Bergson. Pada 1907, Bergson menyatakan manusia lebih tepat disebut Homo faber, makhluk pembuat alat, daripada Homo sapiens. Kekhasan manusia bukan sekadar membuat alat, melainkan membuat alat untuk membuat alat. Arkeolog André Leroi-Gourhan bahkan menganggap menjadi manusia sama dengan menjadi makhluk bertekno­logi. Alat adalah sistem ingatan tambahan di samping ingatan genetik dan ingatan yang dipelajari otak, yaitu ingatan budaya yang tersimpan dalam bahasa dan seni.

Dari sini Krakauer membedakan dua jenis alat. Alat pelengkap menopang cara kita berpikir, misalnya sempoa atau peta. Anak-anak yang berlatih di sekolah sempoa akhirnya dapat berhitung di kepala tanpa alatnya. Alat pesaing tidak menopang apa pun, melainkan menggantikan. Contohnya penunjuk arah satelit dibandingkan dengan peta.

Ia lalu memisahkan tiga istilah. Kemampuan adalah bisa menyelesaikan tugas. Kompetensi adalah bisa melakukannya sendiri tanpa alat. Ketergantungan muncul ketika kita hanya punya kemampuan tanpa kompetensi. Bila kita hanya mengejar kemampuan, kita menjadi bergantung sepenuhnya pada penyedia kemampuan itu, yang belum tentu mengutamakan kepentingan kita.

Tyson memberi contoh dari pengalamannya. Ia dilatih memakai penggaris hitung geser, lalu beralih ke kalkulator tanpa merasa kehilangan apa pun. Krakauer mengakui hal itu masuk akal, tetapi menunjukkan dua kerugian yang mungkin. Pertama, bila suatu hari alatnya tidak tersedia, misalnya saat listrik padam, kita tidak berdaya. Kedua, dan lebih dalam, penggunaan alat analog menanamkan intuisi yang meluas ke bidang lain. Penggaris hitung geser mengajarkan hubungan logaritma dan pelipatan, juga angka bermakna: tidak semua angka di belakang koma perlu dibawa ke perhitungan berikutnya. Orang yang langsung memakai kalkulator tanpa pernah mempelajari logika di baliknya akan tersesat. Tyson menyebut orang yang menuliskan semua digit hasil kalkulator tanpa paham maknanya sebagai korban ketepatan semu.

Dari sini Krakauer mengajukan konsep yang menurutnya sama pentingnya dengan kecerdasan, yaitu keterpahaman (intelligibility). Jika hanya kemampuan yang dihitung, ramalan dan kegunaan sudah cukup. Namun, sains bertujuan membuat dunia dapat dipahami.

AI sebagai Alat, dan Tempatnya yang Tepat

Krakauer tidak menolak AI. Ia memandangnya sebagai alat, tetapi alat yang memerlukan data dalam jumlah sangat besar. AI unggul dalam masalah berdimensi tinggi, yaitu masalah dengan banyak peubah yang sama-sama penting.

Contohnya pelipatan protein. Simulasi fisika penuh atas semua ikatan antaratom memerlukan komputasi yang bertambah secara kuadrat seiring ukuran protein. Jaringan saraf dalam seperti AlphaFold menambah beban secara linear, sehingga hal yang tidak mungkin dihitung secara fisika menjadi mungkin. Selain itu, jaringan ini dapat menerima beragam data, termasuk sejarah evolusi protein, bukan hanya fisika dan kimia.

Krakauer menjelaskan bahwa sebagian besar pemahaman manusia berupa gambaran makroskopis. Hukum gas, misalnya, menggambarkan tekanan, suhu, dan volume tanpa melacak tiap partikel. Perasaan sedih atau cinta pun gambaran makroskopis dari sistem kimia yang sangat besar. Pelipatan protein tidak punya gambaran makroskopis semacam itu, dan di situlah AI membantu. Hubungan terbaik kita dengan AI adalah sebagai alat untuk masalah yang tidak dapat diringkas, bukan sebagai penguasa.

Tambang Konseptual dan Polusi Pengetahuan

Krakauer membandingkan LLM dengan Revolusi Industri. Pada zaman Karbon dan Mesozoikum, sisa makhluk hidup terkubur menjadi batu bara, minyak, dan gas. Mesin uap membuka simpanan energi itu. Selama ribuan tahun, manusia juga menimbun teks di perpustakaan, mulai dari Sumeria hingga kini. Arsitektur transformer membuka simpanan konseptual itu, seperti mesin uap membuka simpanan energi.

Keduanya menimbulkan eksternalitas, yaitu dampak buruk yang tidak masuk hitungan. Revolusi Industri menghasilkan kabut asap dan entropi lingkungan. Pusat data menghabiskan energi berdaya besar dan, menurut Krakauer, juga menambah entropi dalam ruang gagasan: informasi keliru dan sampah pengetahuan. Perusahaan seperti Anthropic dan OpenAI diibaratkan sebagai perusahaan tambang pada zaman kita.

Ada satu perbedaan penting. Batu bara dapat habis, sedangkan pengetahuan tidak. Namun, pengetahuan dapat dicemari. Mesin kini dapat mengolah pengetahuan lalu mengembalikan sampah ke dalamnya.

Dalam percakapan ini juga muncul keberatan bahwa perpustakaan manusia sendiri penuh gagasan keliru. Perbedaannya, kekeliruan di perpustakaan tetap menjadi pelajaran bagi kita. Kita tahu bahwa pengadilan penyihir adalah kekejaman. LLM yang ditanya tentang cara menangani penyihir bisa saja hanya mencari literatur lama dan menjawab bahwa penyihir harus dibakar.

Mengapa Evolusi Melahirkan Otak

Krakauer menjelaskan dari sisi evolusi mengapa kita tidak tetap menjadi bakteri. Menurut teori matematika, seleksi alam hanya mampu memasukkan sekitar satu bit informasi ke dalam genom pada setiap generasi. Pada jasad renik, itu cepat. Pada makhluk besar yang berumur panjang, itu lambat.

Makhluk besar lebih hemat energi, tetapi evolusinya lambat. Karena itu, otak muncul untuk menyerap informasi dari dunia jauh lebih cepat daripada genom. Dari sini terdapat dorongan terus-menerus menuju kompleksitas dan kecerdasan yang lebih tinggi.

Krakauer menganut gagasan Darwinisme semesta: kehidupan di mana pun hidup dalam kelangkaan dan bersaing memperebutkan sumber daya. Maka kecerdasan makhluk asing, bila ada, lebih mungkin menyerupai kita, yakni bekerja dengan data sedikit dan keputusan cepat, daripada menyerupai LLM yang rakus tenaga. Persaingan inilah yang juga melahirkan pertikaian di antara kita. Membangun AI mungkin bisa menjadi jalan melampaui dasar persaingan itu, tetapi menurut Krakauer, itu bukan yang sedang kita kerjakan.

Ia pun ragu terhadap konsep superinteligensi. Jika kecerdasan berarti membuat masalah sulit menjadi mudah, jalan yang sedang ditempuh AI saat ini lebih mirip penyelesaian berbelit-belit.

Penutup: Yang Tersisa bagi Manusia

Krakauer menutup dengan satu pesan. Karena alat makin mampu memecahkan masalah teknis, yang perlu dipupuk pada manusia adalah kemampuan bertanya. Ia mengutip Rainer Maria Rilke: bersabarlah terhadap segala yang belum terpecahkan di dalam hatimu, dan cobalah mencintai pertanyaan itu sendiri.