Bias, Kuasa, dan Moral dalam Kecerdasan Buatan: Siapa yang Sebenarnya Membentuk Keputusan AI?

Ilustrasi keputusan AI (Pic: Grok)

AI bukan hakim netral di atas dunia manusia. Ia adalah arsip nilai, kepentingan, dan kuasa yang dibungkus matematika

Kecerdasan buatan sering dipresentasikan sebagai sistem rasional, objektif, dan netral. Namun, klaim netralitas ini menyembunyikan kenyataan bahwa AI merupakan artefak sosial yang dibentuk oleh nilai pembuatnya, kepentingan pasar, dan struktur kuasa global. 

Tulisan ini membongkar ilusi objektivitas AI dengan menelusuri sumber bias yang tertanam dalam data, arsitektur, dan tujuan ekonomi-politik yang melingkupinya. 

Dengan pendekatan interdisipliner yang menggabungkan filsafat moral, sosiologi pengetahuan, dan ekonomi politik teknologi, tulisan ini menunjukkan bahwa keputusan AI bukanlah keputusan mesin, melainkan kristalisasi kehendak manusia yang dilembagakan secara algoritmik.

Pendahuluan

Narasi dominan tentang AI selalu dimulai dengan janji: mesin tidak punya emosi, tidak punya kepentingan, tidak memihak.

Namun, sejarah filsafat ilmu mengajarkan satu hal yang pahit: tidak ada pengetahuan tanpa posisi kuasa.

AI tidak lahir di ruang hampa.

Ia dilahirkan di:

• laboratorium korporasi

• pusat data negara maju

• ekosistem modal ventura

• dan logika pasar global

Maka pertanyaan krusialnya bukan lagi:

apakah AI bias?

melainkan:

bias siapa yang sedang kita normalisasi sebagai kebenaran teknis?

Kerangka Teoretik

1. Bias sebagai Produk Sosial

Dalam tradisi sosiologi pengetahuan, bias tidak dipahami sebagai kesalahan individual, melainkan sebagai struktur yang berulang dan sistemik.

AI belajar dari data.

Data adalah rekaman masa lalu.

Masa lalu manusia penuh ketimpangan.

Maka AI:

• tidak menciptakan bias

• ia mengawetkan dan mengeskalasinya

2. Kuasa dalam Arsitektur Algoritmik

Mengikuti pemikiran Michel Foucault, kuasa modern bekerja tidak lewat larangan, tetapi lewat normalisasi.

AI tidak berkata “ini salah”.

AI berkata “ini paling mungkin”.

Dan statistik yang tampak netral itu:

• mengarahkan keputusan

• membentuk preferensi

• dan mengunci pilihan manusia

Kuasa AI bersifat halus, senyap, dan persuasif.

Moral Tanpa Etika?

AI sering diklaim bebas nilai, padahal setiap sistem keputusan selalu mengandung:

• asumsi tentang baik dan buruk

• definisi efisiensi

• dan prioritas siapa yang dilayani

Ketika moral direduksi menjadi optimasi, etika dikorbankan atas nama performa.

Analisis: Tiga Sumber Penentu Keputusan AI

I. Nilai Pembuatnya

Setiap AI membawa jejak:

• latar budaya insinyur

• paradigma akademik dominan

• dan asumsi epistemologis Barat

Contoh:

• definisi “kesuksesan”

• definisi “rasionalitas”

• definisi “risiko”

Semua itu tidak universal.

Namun disebarkan sebagai standar global.

AI bukan cermin umat manusia,

ia cermin kelompok yang memegang keyboard.

II. Kepentingan Pasar

AI dikembangkan bukan terutama untuk kebijaksanaan, melainkan untuk:

• efisiensi

• skala

• dan profitabilitas

Konsekuensinya:

• nilai manusia yang sulit diukur diabaikan

• kompleksitas moral dipangkas

• keputusan dipercepat tanpa refleksi

Pasar tidak bertanya: apakah ini adil?

Pasar bertanya: apakah ini laku?

Dan AI patuh pada pertanyaan itu.

III. Struktur Kuasa Global

Sebagian besar AI canggih:

• dikembangkan di negara maju

• dilatih dengan bahasa dominan

• dan mencerminkan kepentingan geopolitik tertentu

Negara berkembang sering hanya menjadi:

• sumber data

• objek eksperimen

• atau pasar konsumsi

Inilah kolonialisme baru:

penjajahan melalui logika algoritmik.

Implikasi Etis dan Sosial

1. Delegasi Moral yang Berbahaya

Manusia mulai menyerahkan keputusan etis pada sistem yang tidak pernah diminta bertanggung jawab.

2. Normalisasi Ketimpangan

Ketika bias menjadi statistik, ketidakadilan tampil sebagai kewajaran.

3. Erosi Otonomi Manusia

Keputusan terasa bebas, padahal diarahkan secara probabilistik.

Diskusi Kritis

Pertanyaan pentingnya bukan:

“bagaimana membuat AI tanpa bias?”

Pertanyaan yang lebih jujur adalah:

bias siapa yang kita anggap sah untuk dilembagakan?

Dan lebih jauh lagi:

siapa yang diuntungkan ketika bias itu disamarkan sebagai teknologi?

AI bukan hakim netral di atas dunia manusia.

Ia adalah arsip nilai, kepentingan, dan kuasa yang dibungkus matematika.

Jika kita gagal menyadari ini, kita tidak sedang menciptakan masa depan yang cerdas, melainkan masa depan yang patuh.

Hanya mereka yang berani membuka ilusi netralitas yang masih layak menyebut dirinya berpikir.

Referensi

Bourdieu, P. (1986). The forms of capital. In J. Richardson (Ed.), Handbook of theory and research for the sociology of education (pp. 241–258). Greenwood Press.

Foucault, M. (1980). Power/knowledge: Selected interviews and other writings, 1972–1977 (C. Gordon, Ed. & Trans.). Pantheon Books.

Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press.

Winner, L. (1980). Do artifacts have politics? Daedalus, 109(1), 121–136.

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.