Mitos Pemikiran AI: Mengapa LLM Bukan Otak dan Mengapa Itu Penting

Pernahkah kamu berhenti sejenak dan bertanya: dari mana datangnya kata-katamu? Ketika kamu berbicara atau menulis, apakah yang muncul pertama kali adalah ide, atau justru kata itu sendiri? Bagi sebagian besar dari kita, prosesnya jelas: ada perasaan, konsep, atau gambaran di kepala, lalu kita mencari kata yang tepat untuk membungkusnya. Kata adalah kulit. Ide adalah isi.

Nah, coba balikkan pertanyaan itu untuk Large Language Model (LLM). Di sana, urutannya terbalik. Tidak ada ide yang mendasari. Tidak ada kesadaran yang mencari ekspresi. Yang ada hanyalah rangkaian kata yang diprediksi berdasarkan probabilitas statistik dari triliunan token yang pernah dilihatnya. Bagi LLM, kata adalah sumbernya. Makna hanyalah produk sampingan yang terjatuh secara kebetulan.

Perbedaan kecil ini, meski terdengar sederhana, sebenarnya adalah jurang filosofis yang memisahkan dua entitas yang sering disamakan: otak manusia dan mesin bahasa.

Sejarah Singkat: Dari Gagasan ke Mesin

Manusia telah melalui beberapa titik infleksi sepanjang sejarah. Jauh sebelum komputer, Homo sapiens belajar berbicara dan berpikir abstrak. Bukan suaranya yang ajaib, melainkan kemampuan untuk memegang konsep seperti keadilan, hukum, dan filosofi dalam benak. Kemudian datang tulisan, tinta, kertas, dan mesin cetak. Pengetahuan bisa melintas benua tanpa manusia harus ikut berlayar.

Lalu muncul komputer. Awalnya mahal, berisik, dan duduk di ruangan ber-AC dengan biaya jutaan dolar. Tapi perlahan-lahan, komputer menyusut hingga masuk ke saku kita. Internet menyambungkannya. Media sosial membanjiri kita dengan informasi. Dan di balik layar, gunung data raksasa terbentuk sementara kekuatan komputasi terus meningkat.

Pada 2017, tim di Google memperkenalkan Transformer. Dunia berubah. Lahirlah LLM. Tapi apa sebenarnya LLM? Intinya, ia adalah tumpukan kata-kata raksasa yang memprediksi kata berikutnya menggunakan matematika yang disempurnakan oleh komputer. Itu saja. Tidak lebih, tidak kurang.

Kesadaran versus Prediksi

Mari kita bedah lebih dalam. Otak manusia bekerja dari dalam ke luar. Ada konsep, perasaan, atau visualisasi, kemudian kata-kata muncul untuk mendeskripsikannya. Setidaknya itulah yang kita rasakan saat merefleksikan proses berpikir kita sendiri. Kata-kata adalah produk sampingan dari kesadaran.

LLM bekerja dari luar ke dalam. Ia melihat rangkaian kata, lalu menghitung kemungkinan kata apa yang paling sering mengikuti di corpus data pelatihannya. Hasilnya bisa tampak koheren, bahkan brilian. Tapi di baliknya, tidak ada "pemikiran" yang sedang berlangsung. Hanya ada kalkulasi vektor dan matriks.

Beberapa peneliti AI, seperti Timnit Gebru dan Emily Bender dalam diskusi seputar stochastic parrots, telah mengingatkan kita bahwa kemampuan LLM untuk menghasilkan teks yang tampak bermakna tidak otomatis berarti mesin tersebut memahami apa yang dihasilkannya. Mereka menunjukkan bahwa risiko besar muncul ketika kita menganggap prediksi statistik setara dengan pemahaman kognitif.

Argumen Chinese Room dan Relevansinya Hari Ini

Filosof John Searle pernah mengajukan sebuah eksperimen pemikiran yang kini terasa semakin relevan: Chinese Room Argument. Bayangkan seseorang yang tidak mengerti bahasa Cina terkunci di dalam ruangan. Ia menerima selembar kertas dengan simbol Cina, lalu mengikuti aturan manual untuk menghasilkan simbol Cina lain sebagai respons. Dari luar, ruangan itu tampak seperti benar-benar memahami bahasa Cina. Tapi di dalam, yang terjadi hanyalah manipulasi simbol tanpa pemahaman sama sekali.

LLM adalah versi digital dari ruangan Cina itu. Ia memanipulasi simbol linguistik dengan sangat mahir, tanpa pernah benar-benar memahami makna di balik simbol-simbol tersebut. Bedanya, ruangan Cina Searle dihuni oleh satu orang yang mengikuti manual. LLM adalah miliaran parameter yang mengikuti pola statistik. Skalanya berbeda, tapi prinsipnya tetap sama: manipulasi simbol bukanlah pemahaman.

Tentu saja, ada yang berargumen bahwa skala yang masif ini menghasilkan emergent properties yang mungkin mendekati pemahaman. Tapi hingga hari ini, tidak ada bukti ilmiah kuat yang menunjukkan LLM memiliki representasi internal tentang dunia yang konsisten dan bermakna. Yang ada hanyalah korelasi statistik yang sangat rumit.

Dampak pada Ekosistem Pengetahuan

Ada satu skenario yang patut ditakuti: spiral degradasi konten. Sebelum 2017, hampir semua teks di internet ditulis oleh manusia. Setelah LLM populer, AI mulai membanjiri web dengan kontennya sendiri. Konten itu lalu diserap kembali sebagai data pelatihan untuk model generasi berikutnya. Hasilnya? Tata bahasa sempurna, kosakata kaya, tapi konteks dan kedalaman makna perlahan-lahan terkikis.

Di masa depan, proporsi konten AI bisa jadi mayoritas. Ketika model dilatih pada output model lain, bukan pada pengalaman manusia yang mentah, apa yang terjadi pada kualitas pengetahuan kolektif kita? Ini bukan soal pesimisme teknologi, melainkan soal hati-hati dalam mengelola sumber daya intelektual umat manusia. Para peneliti di paper terbaru tentang model collapse telah mendemonstrasikan bahwa ketika model generatif dilatih pada data yang dihasilkan oleh model sebelumnya, kualitas outputnya menurun secara signifikan dari waktu ke waktu.

Implikasi untuk Cara Kita Belajar dan Bekerja

Bagi developer, realitas ini membawa konsekuensi langsung. Semakin sering kita membiarkan AI menulis kode tanpa memahami setiap barisnya, semakin besar risiko kita kehilangan kemampuan berpikir kritis. Fenomena ini bukan sekadar teori. Banyak engineer junior yang kini mampu menghasilkan fitur kompleks dalam hitungan jam, tapi ketika sistem mereka bermasalah di production, mereka kesulitan mendiagnosis akar masalahnya karena mereka tidak benar-benar memahami arsitektur yang dibangun.

AI memang mempercepat eksekusi. Tapi eksekusi tanpa pemahaman adalah resep untuk utang teknis yang akan memakan biaya besar di masa depan. Seperti yang sering saya tekankan: coding itu mudah. Berpikir itu sulit. Dan utang teknis paling berbahaya bukanlah yang ada di kode, melainkan yang ada di kepala engineer.

Mengapa Software Engineer Masih Aman

Banyak yang khawatir pekerjaan developer akan lenyap digantikan AI. Saya justru berpendapat sebaliknya: engineer yang berpikir akan semakin berharga. Coding memang bisa diautomasi. Tapi engineering adalah proses berpikir. Siapa yang merancang arsitektur Google Maps yang mampu menghitung miliaran persimpangan dan lalu lintas real-time dari New York ke San Francisco dalam hitungan detik? Bukan sekadar penulis kode, tapi pemikir sistem.

LLM memang membuat semua orang bisa menulis kode. Tapi tidak semua orang bisa berpikir seperti engineer. Coding itu mudah. Berpikir itu sulit. Dan itulah garis pemisahnya.

Masa Depan: Konsistensi di Tengah Kebisingan

Internet saat ini dipenuhi kebisingan. Marketing, konten AI yang masif, dan informasi yang sulit disaring. Di tengah badai ini, menurut saya, yang akan menang bukanlah yang paling pintar, melainkan yang paling konsisten dan paling kreatif dalam menyampaikan ide.

AI membuka jalan berpikir yang sama sekali baru. Peluang yang belum terbayangkan sedang terbentuk. Saya sendiri merasa beruntung hidup di era ini: menyaksikan Windows 98, Nokia 3315, iPhone, internet, MacBook M series, hingga ChatGPT, semua dalam satu rentang hidup.

Tapi di balik kegembiraan itu, kita perlu tetap kritis. Memahami bahwa LLM bukan otak adalah langkah pertama agar kita tidak salah menaruh ekspektasi, salah mengambil keputusan strategis, atau salah mendidik generasi berikutnya tentang apa itu kecerdasan sejati.

Bagaimana menurutmu: apakah ada batasan fundamental yang memang tidak bisa diatasi oleh prediksi statistik, atau suatu hari nanti mesin akan benar-benar "merasakan" makna di balik kata-katanya?