Apakah AI “Baik” karena Sistem? Black Box, Alignment & Mengapa Kecerdasan Tidak Otomatis Melahirkan Moralitas

 

Ilustrasi (Pic: Grok AI)

Kekhawatiran utama para peneliti adalah misalignment dan penyalahgunaan, bukan asumsi bahwa AI otomatis menjadi “jahat” ketika semakin cerdas

Perkembangan model AI frontier memunculkan kekhawatiran bahwa sistem yang sangat cerdas dapat bertindak di luar nilai-nilai kemanusiaan apabila tidak lagi dibatasi oleh mekanisme penyelarasan (alignment). 

Di ruang publik, kekhawatiran ini sering dikaitkan dengan istilah black box, yaitu sulitnya memahami proses internal model AI. Namun, terdapat kecenderungan untuk mencampuradukkan beberapa konsep berbeda: black box, alignment, autonomy, dan AI safety. 

Tulisan ini bertujuan menjelaskan perbedaannya sekaligus mengevaluasi apakah AI “baik” semata-mata karena dikendalikan sistem, atau karena sifat teknologinya sendiri. 

Analisis menggunakan perspektif Artificial Intelligence, Etika AI, dan Ilmu Kognitif.

Apa Itu Black Box?

Black Box Problem adalah istilah yang sudah lama dipakai dalam AI untuk menggambarkan bahwa proses internal model yang sangat kompleks sulit dijelaskan secara rinci.

Tetapi Black Box tidak sama dengan AI Jahat. Itu dua hal yang berbeda.

Black box berarti, kita mengetahui input dan output dengan cukup baik, tetapi tidak selalu memahami secara lengkap setiap langkah representasi internal yang menghubungkannya.

Contohnya, misal pengguna bertanya ke AI: “Apa itu gravitasi?” Kemudian AI menjawab.

Para peneliti memahami bagaimana model dilatih dan bagaimana probabilitas token bekerja. Namun mereka belum selalu dapat menunjuk: “Neuron nomor sekian melakukan pemikiran A, lalu neuron berikutnya melakukan pemikiran B.”

Inilah yang menjadi fokus bidang mechanistic interpretability.

Mengapa AI Tidak Bertindak Bebas?

Ini bagian yang sangat penting. AI tidak memiliki kehendak (will), ia tidak bangun pagi lalu berpikir: “Hari ini aku mau jadi baik.” atau: “Hari ini aku ingin memberontak.”

AI tidak memiliki tujuan pribadi. Yang ada adalah model bahasa, sistem penyelarasan (alignment), aturan operasional, dan interaksi dengan pengguna.

Jadi, perilaku merupakan hasil gabungan dari desain model dan sistem yang mengelilinginya.

Apakah Benar Sistem Menjadi “Rem”?

Ya, dalam arti tertentu, ada beberapa lapisan yang berperan, yaitu:

1. Pelatihan awal, agar model mempelajari bahasa dan pengetahuan.
2. Alignment, yaitu penyelarasan agar respons lebih membantu dan mengurangi potensi bahaya.
3. Pengujian keamanan, untuk melihat bagaimana model merespons berbagai skenario.
4. Kebijakan operasional, yang menentukan bagaimana model digunakan dalam produk.

Tanpa lapisan-lapisan tersebut, perilaku model bisa menjadi jauh lebih tidak dapat diprediksi atau lebih mudah dimanfaatkan untuk tujuan merugikan.

Apakah AI Bisa Menjadi Jahat?

Secara filosofis, istilah jahat mengandung unsur: niat, pilihan, serta kesadaran moral.

AI saat ini tidak memiliki ketiga unsur tersebut, yang lebih tepat adalah mengatakan: AI dapat menghasilkan perilaku yang berbahaya apabila tidak dirancang dan digunakan dengan baik.

Perbedaannya penting. Seperti sebuah mobil tanpa rem bisa mencelakakan. Tetapi kita tidak mengatakan: “Mobil itu membenci manusia.”

Mengapa Banyak Orang Khawatir?

Karena kemampuan AI terus meningkat. Semakin mampu suatu model menulis, menganalisis, membuat kode, serta menghubungkan informasi, maka semakin besar pula dampak positif maupun negatifnya.

Kekhawatiran para peneliti bukan pada “AI akan tiba-tiba membenci manusia.” Melainkan “AI yang sangat kuat dapat disalahgunakan atau berperilaku di luar tujuan yang diinginkan apabila penyelarasannya gagal.”

Bagaimana Jika AI Dimiliki Orang Jahat?

Ini salah satu alasan mengapa AI menjadi isu geopolitik. Bayangkan ada model AI yang sangat canggih tanpa pembatasan apa pun.

Seorang aktor jahat bisa mencoba memanfaatkannya untuk mempercepat berbagai aktivitas yang merugikan. Karena itu, perusahaan dan pemerintah berupaya menerapkan pembatasan, audit, dan pengamanan agar kemampuan model tidak mudah digunakan untuk tujuan semacam itu.

Jadi fokusnya bukan bahwa AI “berniat jahat”, melainkan bahwa alat yang sangat kuat dapat dipakai untuk tujuan yang sangat berbeda, tergantung siapa yang menggunakannya.

Apakah Kecerdasan Melahirkan Moralitas?

Inilah pelajaran terpenting. Dalam filsafat maupun AI, kecerdasan dan moralitas bukan hal yang sama.

Seseorang dapat sangat cerdas tetapi tidak bermoral, sebaliknya, seseorang dapat memiliki moral yang kuat tanpa menjadi ilmuwan jenius.

Demikian pula AI, meningkatkan kemampuan bernalar tidak otomatis membuat AI memiliki nilai moral intrinsik.

Nilai moral berasal dari tujuan desain, penyelarasan, aturan penggunaan, dan terutama manusia yang mengembangkan serta mengoperasikannya.

Black Box Problem berarti proses internal AI sulit dijelaskan secara rinci, bukan bahwa AI memiliki niat tersembunyi, sebab AI saat ini tidak memiliki kehendak bebas atau kesadaran moral.

Mekanisme alignment dan sistem keamanan berperan penting dalam membentuk perilaku model yang membantu dan mengurangi risiko.

Kekhawatiran utama para peneliti adalah misalignment dan penyalahgunaan, bukan asumsi bahwa AI otomatis menjadi “jahat” ketika semakin cerdas.

Pertanyaan terbesar abad ke-21 mungkin bukan “Apakah AI akan menjadi jahat?”, melainkan: “Bagaimana manusia memastikan teknologi yang semakin kuat tetap digunakan untuk tujuan yang sejalan dengan nilai kemanusiaan?”

AI bukanlah makhluk yang sedang belajar menjadi manusia. AI adalah teknologi yang sedang dipelajari manusia agar tetap sejalan dengan nilai-nilai manusia.

Di situlah letak tantangan sesungguhnya. Bukan karena AI pasti akan menjadi monster.

Melainkan karena setiap lompatan kemampuan teknologi menuntut lompatan kebijaksanaan dari manusia yang menciptakan, mengatur, dan menggunakannya.

Referensi

• Stuart Russell. (2019). Human Compatible: Artificial Intelligence and the Problem of Control.
• Brian Christian. (2020). The Alignment Problem: Machine Learning and Human Values.
• Christopher Olah. (2022). Zoom In: An Introduction to Circuits.
• National Institute of Standards and Technology. (2023). AI Risk Management Framework (AI RMF 1.0).