Beberapa tahun terakhir, kecerdasan buatan (Artificial Intelligence/AI) menjadi bintang baru dalam dunia kesehatan. Dari membaca hasil rontgen paru-paru hingga memprediksi risiko serangan jantung, AI kini membantu dokter mengambil keputusan lebih cepat dan akurat.
Namun, di balik kecanggihannya, para ilmuwan menemukan sisi gelap: bias algoritmik atau singkatnya, ketidakadilan yang muncul dari dalam sistem AI itu sendiri. Alih-alih menyembuhkan kesenjangan layanan kesehatan, AI justru bisa memperlebar jarak antara kelompok masyarakat yang diuntungkan dan yang tertinggal.
Inilah yang menjadi fokus kajian ilmiah oleh Hasanzadeh dan timnya dalam jurnal berjudul “Bias recognition and mitigation strategies in artificial intelligence healthcare applications” (NPJ Digital Medicine, 2025). Penelitian ini menyoroti asal-usul bias dalam AI medis, cara mengenalinya, dan strategi ilmiah untuk meminimalkannya agar teknologi ini benar-benar adil dan bermanfaat bagi semua.
Baca juga artikel tentang: Kombinasi Superfood dan Obat: Potensi dan Tantangannya dalam Dunia Kesehatan
Apa Itu Bias dalam AI Medis?
Dalam konteks teknologi, bias tidak berarti “prasangka” dalam arti emosional, melainkan kecenderungan sistem untuk memberikan hasil yang tidak seimbang atau tidak adil. Bias bisa muncul karena berbagai hal, mulai dari data pelatihan, desain algoritma, hingga cara hasil AI diinterpretasikan.
Contohnya:
- Jika data pelatihan AI hanya berisi rekam medis dari pasien kulit putih, maka model itu bisa kurang akurat saat menganalisis gejala pada pasien berkulit gelap.
- Jika data berasal dari rumah sakit di kota besar, maka pola penyakit pedesaan mungkin tidak terwakili.
- Jika pengembang tidak memperhitungkan faktor sosial dan ekonomi, maka sistem bisa saja menilai pasien miskin sebagai “berisiko tinggi” hanya karena pola data, bukan kondisi medis sebenarnya.
Dalam dunia medis, kesalahan semacam ini bukan hanya statistik.
“Bias dalam AI bisa menentukan siapa yang mendapat pengobatan lebih cepat, siapa yang didiagnosis salah, bahkan siapa yang tidak mendapat perawatan sama sekali.”
(Hasanzadeh et al., 2025)
Dari Mana Bias Itu Berasal?
Para peneliti memetakan tiga sumber utama bias dalam pengembangan AI kesehatan:
a. Bias Data (Data Bias)
AI belajar dari data masa lalu. Jika data itu tidak lengkap, tidak seimbang, atau mengandung pola sosial yang tidak adil, maka AI akan “meniru” ketidakadilan itu. Misalnya, data klinis sering kali lebih banyak berasal dari pasien pria, sehingga sistem diagnosis berbasis AI bisa lebih akurat untuk pria dibanding wanita.
b. Bias Desain Algoritma
Pengembang mungkin tidak sengaja menanamkan bias lewat parameter model atau tujuan optimisasi yang tidak mempertimbangkan keberagaman. Sebagai contoh, jika AI dilatih untuk “memaksimalkan akurasi global”, ia bisa mengabaikan kelompok kecil populasi yang datanya langka, padahal justru mereka yang paling rentan.
c. Bias Implementasi (Deployment Bias)
Bahkan jika model dilatih dengan baik, cara AI digunakan di lapangan juga bisa menimbulkan bias. Misalnya, dokter di daerah dengan fasilitas terbatas mungkin mengandalkan AI lebih sepenuhnya, sehingga kesalahan kecil bisa berdampak besar.
Dampak Nyata di Dunia Kesehatan
Beberapa kasus nyata menunjukkan bagaimana bias AI dapat memperburuk kesenjangan kesehatan:
- Prediksi Risiko Jantung: Sebuah algoritma di AS terbukti underestimate risiko pada pasien kulit hitam karena data latihannya didominasi pasien kulit putih.
- Analisis Citra Medis: AI yang mendeteksi kanker kulit sering gagal mengenali melanoma pada kulit gelap karena citra pelatihan didominasi warna kulit terang.
- Sistem Prioritas Pasien: Beberapa model triase otomatis memberi skor prioritas lebih rendah pada pasien dari kelompok ekonomi lemah, karena sistem menganggap mereka “lebih jarang datang untuk rawat lanjut”.
Semua ini menunjukkan bahwa bias bukan sekadar masalah teknis, tapi bisa berdampak langsung pada hidup dan mati seseorang.
Strategi Ilmiah Mengurangi Bias: Dari Desain ke Evaluasi
Hasanzadeh dan timnya menawarkan pendekatan berbasis sains sistematis untuk mengenali dan mengurangi bias sepanjang siklus hidup AI medis, mulai dari desain awal hingga penerapan klinis.
a. Analisis Data yang Beragam dan Representatif
Langkah pertama adalah memastikan data pelatihan AI mencakup populasi yang beragam, dalam hal usia, jenis kelamin, etnis, dan kondisi sosial-ekonomi. Mereka mendorong kolaborasi lintas negara dan rumah sakit agar dataset medis global lebih inklusif.
b. Audit Algoritma (Algorithmic Auditing)
Sebelum digunakan secara luas, model AI harus melalui pengujian bias formal. Para peneliti menyarankan audit dengan metode kuantitatif (seperti fairness score) dan kualitatif (melibatkan etika dan analisis dampak sosial).
c. Pemantauan Jangka Panjang (Longitudinal Surveillance)
Bias bisa muncul seiring waktu, terutama jika data dunia nyata berubah. Karena itu, model AI medis perlu dievaluasi terus-menerus setelah diterapkan, sama seperti obat yang menjalani uji pasca-pemasaran.
d. Keterlibatan Multidisiplin
Mengatasi bias bukan hanya tugas insinyur.
Dibutuhkan kolaborasi antara ilmuwan komputer, dokter, ahli etika, sosiolog, dan pasien untuk memastikan AI digunakan dengan cara yang adil dan bermanfaat bagi semua.
Etika, Kepercayaan, dan Tanggung Jawab
Isu bias tidak bisa dilepaskan dari etika dan tanggung jawab sosial. Peneliti menekankan bahwa keadilan dalam AI bukan sekadar soal teknologi, tapi soal nilai kemanusiaan. Beberapa prinsip etis utama yang direkomendasikan meliputi:
- Transparansi: Setiap keputusan AI harus dapat dijelaskan (“explainable AI”).
- Akuntabilitas: Harus jelas siapa yang bertanggung jawab jika AI salah.
- Keadilan (Fairness): Sistem tidak boleh menguntungkan satu kelompok atas yang lain.
- Inklusivitas: Pasien dari semua latar belakang harus diwakili dalam data pelatihan dan evaluasi.
Tanpa prinsip ini, AI berisiko memperkuat ketimpangan yang sudah ada alih-alih memperbaikinya.
Menuju AI Medis yang Lebih Manusiawi
AI punya potensi besar untuk mempercepat kemajuan medis, tapi Hasanzadeh mengingatkan bahwa kecerdasan buatan tanpa kesadaran sosial adalah pedang bermata dua. Kita tidak bisa hanya mengejar performa model; kita harus memastikan bahwa sistem ini bekerja untuk semua, bukan hanya untuk sebagian.
Masa depan AI di dunia kesehatan haruslah:
- Akurat secara ilmiah,
- Adil secara sosial,
- dan terbuka untuk diawasi secara etis.
Dengan pendekatan ini, AI bisa menjadi alat untuk mewujudkan kesetaraan layanan kesehatan global, bukan malah menambah ketimpangan.
AI kini menjadi mitra penting dalam dunia medis, tetapi bias algoritmik adalah tantangan ilmiah dan moral terbesar yang harus dihadapi bersama. Penelitian Hasanzadeh dan koleganya memberikan panduan ilmiah yang jelas:
Bias bukan sesuatu yang bisa dihindari sepenuhnya, tapi sesuatu yang harus disadari, diukur, dan dikoreksi secara berkelanjutan.
Dengan sains yang bertanggung jawab dan etika yang kuat, kecerdasan buatan dapat menjadi jembatan menuju sistem kesehatan yang lebih adil dan manusiawi.
Baca juga artikel tentang: Infiltrasi Mikroplastik dalam Makanan: Disrupsi Sistem Farmakologi dan Kesehatan Manusia
REFERENSI:
Hasanzadeh, Fereshteh dkk. 2025. Bias recognition and mitigation strategies in artificial intelligence healthcare applications. NPJ Digital Medicine 8 (1), 154.
