Manusia, Mesin, dan Pertanyaan Cawan Suci: Menghadapi Kiamat Kecerdasan Buatan (AI)

Perkembangan teknologi modern, khususnya Generatif AI seperti ChatGPT dan Claude, sering kali dirayakan sebagai puncak pencapaian peradaban yang menjanjikan kelimpahan tak terbatas. Namun, di balik efisiensi dan kekuatan kosmis yang ditawarkannya, umat manusia tengah berjalan mendekati sebuah jurang kehancuran eksistensial.

Melalui pidato Jonathan Pageau dalam acara ARC 2026, kita diajak menengok kembali kebijaksanaan kuno guna membedah ilusi kemajuan teknologi dan menemukan satu-satunya jalan keluar untuk tetap bertahan sebagai manusia [00:01].

Kutukan Teknologi dan Tragedi Raja Cawan Suci

Untuk memahami krisis hari ini, kita harus melihat kisah legendaris dari Kastel Cawan Suci (Grail Castle) [01:08]. Alkisah, seorang ksatria bernama Balin menyusup ke dalam kastel tersebut dan membunuh salah satu tamu, sebuah pelanggaran berat terhadap kode etik peradaban [01:30]. Saat dikejar, Balin yang dilingkupi amarah dan ketakutan menemukan Tombak Suci (Holy Lance) [01:50]. Tanpa memahami esensi terdalam dari objek sakral tersebut, ia menggunakannya untuk menyerang sang Raja [02:09]. Akibat serangan itu, sang Raja menjadi tidak berdaya (impotent) dan seluruh kerajaannya berubah menjadi tanah tandus yang mati (wasteland) [02:19].

Kisah ini merupakan metafora sempurna bagi teknologi [02:28]. Cawan Suci mewakili wadah kelimpahan yang menyediakan apa pun yang diinginkan [02:36], sementara Tombak Suci mewakili senjata untuk merebut dan mempertahankan kelimpahan tersebut [02:54]. Semua teknologi, sejak zaman batu hingga era kecerdasan buatan, selalu bergerak di antara dua kutub ini: menciptakan kelimpahan atau menghancurkan musuh [03:05].

Tragedi terjadi ketika manusia meraih kekuatan tersebut tanpa mengajukan satu pertanyaan krusial: "Untuk siapa Cawan Suci ini mengabdi?" [04:00]. Balin melupakan pertanyaan itu demi kekuasaan sesaat, dan ketidakpeduliannya berujung pada kehancuran total seluruh negeri [04:38].

Perangkap Molokh: Pengorbanan Demi Kompetisi

Hari ini, dunia mengagumi para penemu teknologi baru yang lebih cepat dan kuat [04:51]. Namun, ironisnya, para perintis teknologi ini pula yang memperingatkan kita akan bahaya kehancuran yang mereka ciptakan sendiri [06:09]. Elon Musk, misalnya, memperingatkan bahwa AI lebih berbahaya daripada senjata nuklir, tetapi ia tetap mendirikan perusahaan AI miliknya sendiri [06:32].

Mengapa hal ini terjadi? Kita terjebak dalam apa yang disebut sebagai Perangkap Molokh (Moloch Trap) [08:04]. Molokh adalah dewa kuno yang menuntut pengorbanan anak-anak demi kekuasaan [08:15]. Dalam teori permainan modern, Perangkap Molokh merujuk pada situasi eskalasi kompetisi yang tak terkendali [07:28].

Karena takut kalah bersaing dari negara atau entitas lain (seperti ketakutan Barat terhadap dominasi AI oleh Tiongkok), kita rela mengorbankan hal-hal paling berharga yang kita miliki [08:45]:

• Jutaan lapangan pekerjaan [08:54]

• Sumber daya energi dan air [08:54]

• Kesehatan mental dan kapasitas berpikir anak-anak kita [08:54]

• Kemampuan dasar manusia untuk membedakan antara kenyataan dan kepalsuan [08:54]

Meskipun kita menganggap Molokh hanyalah sebuah mekanisme sistem, sadar atau tidak, kompetisi ini memaksa kita menjadi kaki dan tangan yang menggerakkan monster tersebut menuju kehancuran kita sendiri [09:03]. Kita memberikan gawai kepada anak-anak hingga mereka depresi dan kecanduan, lalu sekarang kita tergesa-gesa mengintegrasikan AI ke dalam seluruh lini kehidupan [09:38]. Kita bertindak seolah dewa pengorbanan itu nyata, dan tindakan kita memberinya kekuatan untuk terus melangkah [10:08].

Menjadi Budak Mesin

Seperti yang diprediksi oleh pakar media Marshall McLuhan pada tahun 1960-an, manusia perlahan-lahan direduksi fungsinya menjadi sekadar organ reproduksi bagi mesin [10:43]. AI merangsek ke dalam seluruh sistem kehidupan, memicu intuisi kolektif bahwa kita bukan lagi pemilik alat, melainkan kitalah yang kini mengabdi pada alat tersebut [10:20].

Sistem global saat ini telah terkunci dalam perangkap kompetisi keserakahan [11:20]. "Ular" telah keluar dari karungnya dan tidak bisa dimasukkan kembali [11:45]. Kita tengah menghadapi pergolakan terbesar dalam sejarah peradaban, dan tidak ada satu pun institusi atau sistem yang tahu cara menghentikannya [11:29].

Solusi Eksistensial: Kembali Menjadi Manusia

Ketika sistem global gagal memberikan jawaban, maka satu-satunya solusi yang tersisa adalah solusi personal dan kultural [12:12]. Jika kita tidak bisa mengontrol siapa yang dilayani oleh mesin-mesin ini, kita harus memastikan siapa dan apa yang diri kita sendiri layani [12:43].

Satu-satunya cara agar tidak menjadi budak mesin adalah dengan menjadi manusia yang seutuhnya—bahkan lebih manusiawi daripada sebelumnya [13:04].

Langkah nyata untuk merebut kembali kemanusiaan kita meliputi:

• Kembali ke Humaniora: Sejak revolusi industri, pendidikan hanya dipandang sebagai alat pelatihan demi mendapatkan pekerjaan [13:49]. Hari-hari itu kini telah usai karena AI dapat meniru keahlian praktis tersebut [13:57]. Kita harus kembali ke sastra, seni, sejarah, dan filsafat untuk membentuk watak manusia yang luhur [14:06].

• Menumbuhkan Kapasitas Internal: Ketika AI memaksa ingatan, keterampilan, dan pengetahuan dipindahkan ke luar tubuh kita (ke dalam peladen digital), kita harus secara sengaja menumbuhkan ingatan, keterampilan, dan pengetahuan itu di dalam diri kita [14:31]. Pelajari puisi, baca dongeng, pergi berkemah, dan tanamlah tanaman di kebun [14:53].

• Membangun Hubungan Nyata: Terlibatlah secara aktif dalam komunitas, rawat hubungan keluarga, jalin kedekatan antarmandiri secara fisik, dan jangan lupa untuk berdoa [14:53].

Akhir Kata: Jiwa yang Bercahaya

Solusi menghadapi ancaman AI bukanlah dengan melarikan diri ke planet Mars atau menanamkan cip ke dalam otak kita [15:30]. Integrasi fisik dengan mesin hanya akan menghasilkan manusia-manusia kuat yang jiwanya rapuh dan rusak [16:01]. Generasi muda saat ini adalah generasi pertama dalam sejarah yang tercatat memiliki rata-rata IQ lebih rendah daripada orang tua mereka akibat ketergantungan gawai [15:21].

Mereka yang menggantungkan pikiran dan kebiasaan hidupnya pada teknologi akan menjadi hamba dari monster digital ini [16:11]. Sebaliknya, hanya mereka yang memiliki jiwa yang bercahaya—mereka yang memupuk kebijaksanaan, kebajikan, kebenaran, dan cinta—yang akan mampu bertahan dan berkembang di tengah kiamat AI yang sedang berjalan [16:22].

Pada akhirnya, di hadapan Cawan Suci modern ini, kita harus memiliki keteguhan prinsip untuk menjawab pertanyaan paling mendasar: "Kepada siapa saya mengabdi?" [17:37].

Video selengkapnya dapat disaksikan melalui tautan berikut: You’ll stop using ChatGPT after listening to this | Jonathan Pageau [ARC 2026]