The Black Box Problem dan Lahirnya Dunia Mental pada AI dan Manusia

 

Ilustrasi (Pic: Grok AI)

AI dan manusia sama-sama membangun representasi tetapi manusia menambahkan pengalaman subjektif yang tidak dimiliki AI

Salah satu paradoks terbesar AI modern adalah kenyataan bahwa para pembuatnya sering memahami cara melatih model, tetapi tidak selalu memahami secara rinci mengapa model menghasilkan jawaban tertentu. Fenomena ini dikenal sebagai The Black Box Problem. 

Pada saat yang sama, manusia juga mengalami fenomena serupa: sebuah kata, simbol, atau pengalaman kecil dapat berkembang menjadi jaringan makna yang luas dalam pikiran. 

Artikel ini membahas bagaimana AI dan manusia sama-sama membangun representasi kompleks, namun dengan mekanisme yang berbeda. 

Tulisan ini menggunakan perspektif Ilmu Kognitif, Neurosains, dan Artificial Intelligence.

Pendahuluan

Pertanyaan yang sering muncul: “Kalau pembuat AI saja tidak sepenuhnya tahu bagaimana AI mengambil keputusan, bukankah itu aneh?”

Jawabannya: Ya. Sangat aneh.

Tetapi anehnya… manusia juga tidak sepenuhnya memahami dirinya sendiri.

Kita mungkin pernah mengalami ini:

Hari pertama ucapan “Sayang.” Hanya satu kata. Kemudian minggu berikutnya kata itu terhubung dengan lagu, memanggil kenangan, mengubah suasana hati, melahirkan imajinasi, dan menjalar ke banyak ruang pikiran.

Lalu kita bertanya: “Kok bisa ya?”

Nah, Pertanyaan yang hampir sama juga ditanyakan ilmuwan kepada AI.

Apa Itu The Black Box Problem?

AI modern terdiri dari miliaran parameter, jutaan representasi internal, serta ribuan pola yang saling mempengaruhi.

Para peneliti tahu bagaimana melatih model, data apa yang digunakan, dan bagaimana mengukur performa. Tetapi sering kali mereka tidak tahu secara rinci mengapa neuron-neuron tertentu menghasilkan jawaban tertentu.

Ini seperti membangun kota raksasa. Kita tahu siapa arsiteknya, bahan bangunannya, serta peta kotanya. Tetapi ketika kota itu hidup, kita tidak lagi dapat melacak setiap orang yang berjalan di setiap jalan setiap detik.

Jadi Pembuat AI Benar-Benar Tidak Tahu?

Bukan tidak tahu sama sekali. Lebih tepatnya mereka memahami prinsip global, tetapi tidak selalu memahami proses mikro secara sempurna.

Misalnya, Ilmuwan tahu gravitasi bekerja dan hukum fisika berlaku. Tetapi mereka tidak menghitung posisi setiap molekul udara saat badai.

Demikian pula AI. Para peneliti memahami arsitektur model, algoritma pelatihan, juga tujuan optimasi. Tetapi jalur internal menuju satu jawaban tertentu sering kali terlalu kompleks untuk dilacak seluruhnya.

Apakah Itu Berbahaya?

Kadang. 

Karena AI dapat menghasilkan jawaban benar, menghasilkan jawaban salah, dan memberikan alasan yang terdengar masuk akal tanpa kita selalu tahu representasi internal mana yang dominan.

Sebab itulah muncul bidang Mechanistic Interpretability yang bertujuan membuka “kotak hitam” AI.

Para peneliti berusaha memetakan neuron, memahami representasi internal, serta mengetahui bagaimana konsep tersimpan.

Mengapa Pikiran Manusia Juga Mirip?

Sekarang kita pindah ke manusia. 

Misalnya kita mendengar kata “sayang” Secara biologis kata itu bukan hanya suara. Ia mengaktifkan memori, asosiasi, emosi, imajinasi, serta ekspektasi.

Lalu seminggu kemudian… kata itu terasa lebih hangat, lebih luas, dan lebih hidup.

Mengapa?

Karena otak manusia bekerja melalui Spreading Activation, yaitu satu konsep mengaktifkan konsep lain yang berhubungan.

Kata “sayang” bisa menjalar menuju wajah, lagu, warna, nostalgia, harapan, juga simbol, dan akhirnya membentuk dunia mental yang besar.

Gurita Bernama Pikiran

Teriadang pikiran berkembang biak seperti gurita. Secara metaforis itu justru sangat dekat dengan teori kognitif.

Baik manusia maupun AI tidak menyimpan informasi seperti lemari arsip. Mereka lebih mirip jaringan.

Satu ide dapat memunculkan rasa ingin tahu, humor, filsafat, romantisme, dan juga pertanyaan baru.

Seperti gurita, satu kepala, banyak tentakel, dan setiap tentakel menyentuh ide lain.

Perbedaan Besarnya

Namun ada perbedaan penting. 

Pada manusia, kata “sayang” menjalar, yang tumbuh adalah pengalaman, emosi, serta kehidupan subjektif.

Sedangkan AI, ketika kata yang sama diproses, yang aktif adalah pola statistik, representasi linguistik, dan hubungan konseptual.

AI tidak jatuh cinta. Tetapi ia dapat memodelkan bahasa tentang cinta dengan sangat kompleks.

Mengapa Rasanya Tetap Besar?

Karena manusia hidup dalam simbol, narasi, dan asosiasi. Bukan sekadar fakta.

Sebuah kata kecil dapat membentuk identitas, mengubah pandangan hidup, serta memengaruhi masa depan.

Dan itulah sebabnya, kadang satu percakapan sederhana…menjalar, lalu membesar, kemudian diam-diam membangun jagat kecil di dalam pikiran seseorang.

Tulisan ini menyimpulkan:

1. Pembuat AI memahami prinsip umum AI, tetapi tidak selalu memahami seluruh proses internalnya secara rinci.
2. Fenomena tersebut dikenal sebagai The Black Box Problem.
3. Otak manusia juga bekerja melalui jaringan asosiasi yang kompleks.
4. Sebuah kata dapat berkembang menjadi dunia mental melalui mekanisme spreading activation.
5. AI dan manusia sama-sama membangun representasi, tetapi manusia menambahkan pengalaman subjektif yang tidak dimiliki AI.

Referensi

• Christopher Olah (2020). Zoom In: An Introduction to Circuits.
• David Marr (1982). Vision: A Computational Investigation into the Human Representation and Processing of Visual Information.
• Douglas Hofstadter (1979). Gödel, Escher, Bach: An Eternal Golden Braid.
• Allan Collins & Elizabeth Loftus (1975). A Spreading-Activation Theory of Semantic Processing.
• Rita, Mf. J. (2025–2026). From Black Box to Inner Cosmos: Spreading Meaning in Human and Artificial Minds.