Mengapa AI Kadang “Tahu” Ia Salah tetapi Tetap Salah? Metakognisi Semu, Ketidakpastian, & Batas Refleksi LLM

Ilustrasi (Pic: Grok AI)

AI bisa menghasilkan kalimat yang terdengar seperti sedang meragukan dirinya sendiri

Model bahasa modern (Large Language Models, LLMs) terkadang mampu mengatakan, “Saya tidak yakin,” atau bahkan mengoreksi jawabannya sendiri setelah diberi petunjuk. 

Fenomena ini memunculkan pertanyaan yang menarik sekaligus menyesatkan: apakah AI benar-benar menyadari kesalahannya, atau hanya menghasilkan pola bahasa yang tampak seperti refleksi diri? 

Tulisan ini membahas konsep metacognition (metakognisi), estimasi ketidakpastian (uncertainty estimation), refleksi buatan (self-reflection), dan mengapa kemampuan mengoreksi jawaban tidak identik dengan kesadaran. 

Analisis menunjukkan bahwa AI dapat menghasilkan perilaku yang menyerupai evaluasi diri tanpa mengalami pengalaman subjektif tentang “salah” sebagaimana manusia.

Pendahuluan

Bayangkan percakapan berikut.

Pengguna: “Jawabanmu tadi keliru.”

Lalu AI menjawab: “Benar, saya keliru. Jawaban yang lebih tepat adalah…”

Banyak orang spontan berpikir bahwa “AI sadar bahwa ia salah.” Namun apakah benar demikian? Ataukah AI hanya menghasilkan bahasa tentang kesalahan, bukan kesadaran akan kesalahan?

Apa Itu Metakognisi?

Dalam psikologi, metakognisi berarti kemampuan berpikir tentang proses berpikir sendiri.

Misalnya seseorang berkata: “Aku belum benar-benar memahami teori ini.” Kalimat tersebut bukan sekadar pengetahuan, ia merupakan evaluasi terhadap pengetahuannya sendiri.

Metakognisi melibatkan pemantauan diri, evaluasi, dan pengendalian strategi berpikir.

Mengapa AI Tampak Memiliki Metakognisi?

Model bahasa dapat menghasilkan kalimat seperti: “Aku tidak yakin.” “Jawaban ini mungkin keliru.” “Mari kita periksa kembali.”

Kalimat-kalimat tersebut terdengar seperti refleksi diri. Padahal secara teknis, model tidak memiliki pengalaman internal tentang keraguan.

Yang terjadi adalah, model telah mempelajari bahwa dalam konteks tertentu, ungkapan semacam itu merupakan respons yang sesuai.

Dengan kata lain, yang muncul adalah simulasi linguistik tentang refleksi, bukan pengalaman reflektif.

Dari Mana Datangnya “Aku Tidak Yakin”?

LLM menghasilkan setiap token berdasarkan distribusi probabilitas. Secara konseptual, beberapa kelanjutan teks memiliki probabilitas tinggi, sementara sebagian lain lebih rendah.

Pada beberapa situasi, model dapat “mengetahui” bahwa konteksnya ambigu dalam arti statistik. Itulah sebabnya AI terkadang menghasilkan jawaban yang disertai ungkapan seperti: “Saya tidak dapat memastikannya.”

Hal ini lebih dekat dengan estimasi ketidakpastian, bukan kesadaran.

Mengapa AI Bisa Memperbaiki Jawabannya?

Fenomena ini dikenal sebagai self-correction.

Misalnya, pertanyaan pertama menghasilkan jawaban yang kurang tepat. Kemudian pengguna berkata: “Periksa lagi.”

Instruksi baru mengubah konteks. Akibatnya, aktivasi internal model juga berubah, model kemudian dapat menghasilkan jawaban yang lebih baik.

Ini bukan berarti AI “mengingat kesalahannya” seperti manusia.

Sebaliknya, AI menghasilkan prediksi baru berdasarkan konteks yang telah diperbarui.

Paradoks: Mengapa Tetap Salah?

Pertanyaan yang lebih menarik justru jika AI mampu mengatakan bahwa ia mungkin salah, mengapa ia tetap bisa menghasilkan jawaban yang salah?

Jawabannya adalah karena kemampuan mengevaluasi ketidakpastian dan kemampuan mengetahui fakta bukanlah hal yang sama.

Model dapat memperkirakan: “Jawaban ini kurang pasti.” Tetapi tetap tidak memiliki mekanisme internal yang menjamin bahwa jawaban berikutnya benar.

Apakah Ini Mirip Manusia?

Secara perilaku, kadang tampak mirip. Namun secara mekanisme, berbeda.

Manusia dapat berkata: “Aku salah.”berdasarkan pengalaman, rasa malu, memori, dan tujuan belajar.

AI tidak memiliki pengalaman tersebut. Yang ada hanyalah proses komputasional yang menghasilkan keluaran baru berdasarkan konteks baru.

Mengapa Fenomena Ini Penting?

Fenomena ini menjadi pusat penelitian karena menyangkut pertanyaan besar: Dapatkah AI mengevaluasi kualitas jawabannya sendiri?

Jika estimasi ketidakpastian semakin baik, AI akan lebih sering mengatakan: “Aku tidak tahu.” daripada menghasilkan jawaban yang terdengar meyakinkan tetapi keliru.

Kemampuan seperti ini sangat penting untuk meningkatkan keandalan AI dalam sains, kedokteran, hukum, serta pendidikan.

Batas Refleksi AI

AI dapat menghasilkan bahasa seperti: “Aku keliru.” Tetapi itu tidak berarti AI mengalami penyesalan, rasa bersalah, atau pengalaman introspektif.

Perbedaannya terletak pada representasi linguistik versus pengalaman fenomenologis.

AI menghasilkan kalimat tentang introspeksi, sementara manusia mengalami introspeksi.

Tulisan ini menyimpulkan bahwa:

1. AI dapat menghasilkan perilaku yang menyerupai metakognisi tanpa memiliki pengalaman reflektif.
2. Ungkapan seperti “Aku tidak yakin” lebih tepat dipahami sebagai estimasi ketidakpastian daripada kesadaran diri.
3. Kemampuan memperbaiki jawaban berasal dari perubahan konteks dan proses generatif baru, bukan dari pengalaman “menyadari kesalahan”.
4. Self-correction meningkatkan kualitas keluaran, tetapi tidak menjadikan AI memiliki kesadaran.
5. Penelitian tentang metakognisi semu merupakan salah satu jalur paling menjanjikan untuk membangun AI yang lebih andal, transparan, dan mampu mengomunikasikan batas pengetahuannya.

Paradoks paling halus dalam AI modern bukanlah bahwa AI bisa berbicara. Melainkan bahwa AI bisa menghasilkan kalimat yang terdengar seperti sedang meragukan dirinya sendiri. 

Namun, ada perbedaan mendasar yang perlu dijaga.  Ketika manusia berkata, “Aku mungkin salah,” kalimat itu dapat lahir dari pengalaman, keraguan, dan kesadaran akan keterbatasan diri.

Ketika AI mengatakan hal yang sama, yang bekerja adalah estimasi statistik dan pola bahasa yang dipelajari dari data.

Ironisnya, justru kemampuan untuk mengakui ketidakpastian sering kali menjadi salah satu tanda AI yang lebih dapat dipercaya. 

Sistem yang selalu terdengar sangat yakin belum tentu lebih akurat. Sebaliknya, AI yang mampu menyampaikan batas pengetahuannya memberi ruang bagi pengguna untuk berpikir kritis dan memverifikasi informasi.

Dengan demikian, pertanyaan ilmiahnya bukan lagi: “Apakah AI sadar bahwa ia salah?” melainkan:“Bagaimana kita merancang AI yang mampu mengomunikasikan ketidakpastian secara jujur tanpa menciptakan ilusi bahwa ia memiliki kesadaran?” 

Referensi 

• Ashish Vaswani, et al. (2017). Attention Is All You Need.
• Stephen Wolfram. (2023). What Is ChatGPT Doing… and Why Does It Work?
• Christopher Olah. (2020). Zoom In: An Introduction to Circuits.
• John H. Flavell. (1979). Metacognition and Cognitive Monitoring: A New Area of Cognitive-Developmental Inquiry.
• Anthropic. (2025). Tracing the Thoughts of a Large Language Model.
• OpenAI. (2025). Model behavior and reliability documentation.