Kecerdasan buatan (Artificial Intelligence/AI) kini menjadi denyut baru dunia kesehatan.
Dari memprediksi serangan jantung, membaca hasil MRI, hingga membantu dokter mendiagnosis kanker lebih cepat, AI seolah membuka babak baru revolusi medis.
Namun di balik semua janji kemajuan itu, muncul pertanyaan penting:
Bagaimana kita memastikan bahwa AI dalam kesehatan benar-benar aman, adil, dan bisa dipercaya?
Banyak sistem AI bekerja secara kompleks, dengan cara berpikir yang bahkan sulit dijelaskan oleh para pembuatnya sendiri. Hal ini menimbulkan kekhawatiran, apa jadinya jika AI salah memutuskan diagnosis? Siapa yang bertanggung jawab jika pasien dirugikan?
Inilah tantangan yang ingin dijawab oleh tim peneliti yang dipimpin Brian J. Wells melalui penelitian mereka tentang FAIR-AI, kerangka ilmiah yang membantu sistem kesehatan menilai dan memantau penggunaan AI secara aman dan bertanggung jawab. Penelitian ini diterbitkan di jurnal NPJ Digital Medicine (Nature, 2025), dan menjadi salah satu pedoman paling relevan dalam dunia kesehatan digital modern.
Baca juga artikel tentang: Kombinasi Superfood dan Obat: Potensi dan Tantangannya dalam Dunia Kesehatan
Inovasi yang Terlalu Cepat, Regulasi yang Terlambat
Kemajuan AI di bidang medis melaju dengan kecepatan luar biasa. Dalam lima tahun terakhir, ribuan algoritma dikembangkan untuk mendeteksi berbagai penyakit dari diabetes, Alzheimer, hingga kanker paru.
Namun di banyak negara, regulasi dan sistem pengawasan belum siap. Banyak rumah sakit yang menggunakan AI tanpa mekanisme evaluasi menyeluruh. Beberapa tantangan utama yang diidentifikasi peneliti antara lain:
- Kurangnya transparansi: banyak sistem AI yang bekerja seperti “kotak hitam” (black box), tanpa menjelaskan bagaimana keputusan diambil.
- Risiko bias: algoritma yang dilatih hanya dengan data dari satu kelompok populasi bisa menghasilkan diagnosis yang keliru bagi kelompok lain.
- Pertanyaan etika dan privasi: data pasien sering kali dikumpulkan dalam jumlah besar tanpa kejelasan tentang perlindungan dan penggunaannya.
Dengan kata lain, AI menghadirkan potensi luar biasa, tetapi juga tantangan moral, hukum, dan sosial yang tak kalah besar.
Membangun Peta Jalan yang Ilmiah dan Praktis
Penelitian Wells dan timnya bertujuan untuk mengembangkan kerangka kerja evaluasi yang bisa digunakan di dunia nyata. Kerangka ini disebut FAIR-AI (Framework for Appropriate Implementation and Review of Artificial Intelligence), yang berfokus pada dua hal:
- Menilai kesiapan AI sebelum digunakan dalam sistem kesehatan, dan
- Memantau kinerjanya secara berkelanjutan setelah diterapkan.
Kerangka FAIR-AI tidak hanya menekankan standar teknis, tetapi juga aspek etika, sosial, dan pasien, karena teknologi yang baik seharusnya memperkuat kemanusiaan, bukan menggantikannya.
Menyatukan Ilmu, Etika, dan Perspektif Pasien
Untuk menyusun FAIR-AI, para peneliti menggunakan pendekatan multidisipliner, yang melibatkan:
- Kajian literatur ilmiah mendalam (systematic review)
Mereka meninjau berbagai pedoman internasional, regulasi medis, serta standar teknis AI untuk mengidentifikasi celah dalam sistem evaluasi yang sudah ada. - Wawancara mendalam dengan pemangku kepentingan (stakeholder interviews)
Wawancara dilakukan dengan dokter, peneliti, insinyur, ahli etika, pembuat kebijakan, dan bahkan pasien. Tujuannya: memahami berbagai sudut pandang tentang bagaimana AI berdampak di lapangan. - Lokakarya lintas disiplin (design workshop)
Dalam forum ilmiah ini, para ahli berdiskusi dan menguji konsep awal FAIR-AI, agar hasilnya bisa digunakan secara praktis oleh rumah sakit dan lembaga kesehatan di berbagai negara.
Pendekatan ini membuat FAIR-AI bukan hanya teori di atas kertas, tetapi panduan yang bisa langsung diterapkan dalam sistem kesehatan nyata.
Empat Pilar FAIR-AI
Kerangka FAIR-AI disusun di atas empat prinsip utama yang sekaligus menjadi makna dari akronimnya:
1. Fairness (Keadilan)
AI harus bekerja adil bagi semua pasien, tanpa bias terhadap ras, gender, usia, atau status sosial. Algoritma perlu dilatih dengan data yang beragam agar hasilnya tidak diskriminatif.
2. Accountability (Akuntabilitas)
Setiap keputusan medis yang dihasilkan AI harus bisa dijelaskan dan dipertanggungjawabkan. Dokter, pengembang, dan lembaga kesehatan berbagi tanggung jawab atas hasil keputusan AI.
3. Integrity (Integritas Ilmiah dan Etika)
AI medis harus menjunjung tinggi standar ilmiah: hasilnya dapat diuji, datanya terlindungi, dan prosesnya transparan.
Tidak boleh ada “rahasia dagang” yang menutupi bagaimana sistem mengambil keputusan medis.
4. Reliability (Keandalan dan Pemantauan Berkelanjutan)
Kinerja AI harus terus dievaluasi setelah diterapkan. Lingkungan medis dinamis, populasi pasien berubah, dan data berkembang, AI harus terus “diaudit” agar tetap relevan dan akurat.
Empat prinsip ini menjadikan FAIR-AI sebagai kerangka hidup (living framework) fleksibel dan dapat diperbarui seiring perkembangan teknologi dan regulasi.
Sains yang Humanis
Melalui FAIR-AI, para peneliti berhasil memberikan panduan praktis bagi rumah sakit dan lembaga kesehatan di seluruh dunia. Beberapa hasil nyata dari kerangka ini antara lain:
- Menyediakan struktur evaluasi pra-implementasi, agar AI tidak langsung digunakan tanpa uji klinis.
- Memberikan template untuk pemantauan pasca-implementasi, memastikan AI tetap aman dan efektif.
- Menetapkan standar pelaporan etika dan transparansi untuk setiap sistem AI medis.
Dengan cara ini, FAIR-AI membantu dunia medis menghindari “kecelakaan digital” ketika algoritma yang tidak teruji justru membahayakan pasien.
Lebih jauh lagi, penelitian ini menegaskan bahwa AI tidak boleh menggantikan manusia, tetapi harus bekerja bersama manusia. Dokter tetap menjadi pusat pengambilan keputusan, sementara AI bertindak sebagai asisten pintar yang membantu melihat pola dan data yang terlalu kompleks bagi manusia untuk dihitung sendiri.
FAIR-AI bukan sekadar panduan teknis, tapi filosofi ilmiah baru dalam dunia kesehatan digital.FAIR-AI menegaskan bahwa kemajuan teknologi hanya berarti bila selaras dengan nilai kemanusiaan.
Dengan kerangka ini, setiap inovasi AI di bidang medis dapat:
- Diuji secara ilmiah,
- Diterapkan secara etis, dan
- Dipantau secara berkelanjutan untuk memastikan manfaatnya bagi masyarakat luas.
Sebagaimana disampaikan oleh para penulis:
“FAIR-AI harus diperlakukan sebagai dokumen hidup, panduan yang terus berevolusi agar tetap relevan dan efektif di tengah perubahan dunia AI.”
Dengan kata lain, di era di mana mesin bisa belajar dengan cepat, manusia juga harus belajar mengatur mesin dengan bijak.
Jika diterapkan dengan benar, FAIR-AI bisa menjadi jembatan menuju masa depan kesehatan yang tidak hanya cerdas secara teknologi, tetapi juga adil, aman, dan manusiawi.
Baca juga artikel tentang: Infiltrasi Mikroplastik dalam Makanan: Disrupsi Sistem Farmakologi dan Kesehatan Manusia
REFERENSI:
Wells, Brian J dkk. 2025. A practical framework for appropriate implementation and review of artificial intelligence (FAIR-AI) in healthcare. NPJ digital medicine 8 (1), 514.
