Di Mana “Pengetahuan” AI Berada? Representasi Terdistribusi, Memori Parametrik, & Misteri Lokasi Pengetahuan LLM
Ilustrasi (Pic: Grok AI) Seperti melodi yang tidak tinggal di satu tuts piano, atau seperti rasi bintang yang tidak berada pada satu bintang saja, pengetahuan AI lahir dari keterhubungan yang sangat kompleks Salah satu kesalahpahaman paling umum tentang Artificial Intelligence (AI) adalah anggapan bahwa AI menyimpan informasi seperti perpustakaan digital atau basis data yang setiap fakta memiliki lokasi tertentu. Kenyataannya jauh lebih kompleks. Pada Large Language Models (LLMs), pengetahuan tidak tersimpan sebagai daftar fakta, melainkan sebagai representasi terdistribusi yang tersebar di dalam miliaran parameter model. Tulisan ini membahas bagaimana pengetahuan direpresentasikan dalam AI modern, mengapa tidak ada satu “laci memori” untuk setiap informasi, serta implikasinya terhadap interpretabilitas, halusinasi, dan masa depan penelitian AI. Pendahuluan Ketika seseorang bertanya pada AI: “Apa ibu kota Jepang?” AI menjawab: Tokyo. Pertanyaan ...
