Kecerdasan buatan (Artificial Intelligence/AI) telah menjadi katalis perubahan besar dalam dunia kesehatan modern, dari diagnosis otomatis hingga personalisasi pengobatan. Namun, di balik percepatan inovasi ini, muncul persoalan mendasar: bagaimana memastikan teknologi tersebut etis, adil, dan dapat dipercaya dalam menangani kehidupan manusia? Penelitian oleh Polat Goktas dan Andrzej Grzybowski (2025) menawarkan pendekatan ilmiah multidisipliner untuk membangun AI yang dapat dipercaya (trustworthy AI) di bidang medis, melalui integrasi aspek sains, etika, kebijakan, dan kolaborasi global.
Dalam dekade terakhir, AI telah mempercepat diagnosis penyakit, memprediksi risiko kesehatan, dan mengoptimalkan perawatan pasien. Namun, kemajuan tersebut justru menimbulkan ketidakseimbangan antara kecepatan inovasi dan kesiapan sistem etika serta hukum medis.
Beberapa isu utama yang diidentifikasi peneliti meliputi:
- Bias algoritmik, yang membuat keputusan medis menjadi tidak adil antar populasi.
- Kesenjangan regulasi, karena kebijakan kesehatan publik belum secepat perkembangan teknologi.
- Kurangnya transparansi dan akuntabilitas, di mana banyak sistem AI bekerja sebagai “kotak hitam” tanpa dapat menjelaskan cara kerjanya.
- Dampak sosial dan psikologis, seperti berkurangnya kepercayaan pasien terhadap keputusan berbasis mesin.
Isu-isu tersebut menunjukkan bahwa pengembangan AI medis tidak hanya memerlukan inovasi teknologi, tetapi juga pendekatan ilmiah yang menggabungkan nilai-nilai etika dan keadilan sosial.
Baca juga artikel tentang: Kombinasi Superfood dan Obat: Potensi dan Tantangannya dalam Dunia Kesehatan
Menyusun Kerangka Etis untuk AI yang Dapat Dipercaya
Goktas dan Grzybowski berupaya menyatukan pandangan dari berbagai disiplin ilmu (mulai dari teknologi, kedokteran, kebijakan publik, hingga filsafat moral) untuk menjawab pertanyaan utama:
“Bagaimana membangun sistem AI yang efisien secara klinis, namun tetap etis, transparan, dan dapat dipertanggungjawabkan?”
Tujuan penelitian ini mencakup tiga hal:
- Mengidentifikasi tantangan etika dan kesenjangan regulasi dalam penerapan AI klinis.
- Menyintesis temuan ilmiah dari berbagai bidang menjadi kerangka evaluasi praktis untuk kepercayaan AI.
- Menawarkan model kebijakan adaptif yang disebut Regulatory Genome, sebagai dasar pembentukan regulasi dinamis bagi AI di bidang kesehatan.
Kajian Multidisipliner dan Pendekatan Ekosistemik
Penelitian ini menggunakan pendekatan ilmiah berbasis systematic literature review terhadap ratusan publikasi peer-reviewed dari PubMed, Scopus, dan Web of Science, disertai analisis pedoman etika medis global (seperti WHO dan OECD).
Selain itu, peneliti memanfaatkan pendekatan ekosistemik, yaitu memandang AI bukan sekadar perangkat teknis, tetapi bagian dari sistem sosial yang mencakup dokter, pasien, pembuat kebijakan, dan masyarakat. Kerangka analisis mereka menggabungkan:
- Ilmu komputer dan data science, untuk menilai keandalan teknis AI;
- Etika kedokteran, untuk mengkaji prinsip keadilan, beneficence, dan non-maleficence;
- Ilmu kebijakan publik, untuk memahami dinamika regulasi dan tata kelola teknologi.
Pendekatan ini menghasilkan model konseptual yang lintas disiplin, yang dapat diterapkan di berbagai konteks sistem kesehatan global.
Lima Pilar Kepercayaan terhadap AI Kesehatan
Analisis Goktas dan Grzybowski mengidentifikasi lima pilar utama untuk membangun trustworthy AI dalam konteks klinis:
- Transparansi (Transparency)
Algoritma harus dapat diaudit dan dijelaskan (explainable AI). Penjelasan yang dapat dimengerti dokter dan pasien menjadi syarat utama untuk penerimaan klinis. - Akuntabilitas (Accountability)
Sistem harus memiliki mekanisme pertanggungjawaban jelas, termasuk pembagian tanggung jawab antara pengembang, dokter, dan institusi kesehatan. - Keadilan (Fairness)
Dataset pelatihan AI wajib merepresentasikan keberagaman populasi agar keputusan medis tidak bias terhadap ras, gender, atau kondisi sosial ekonomi. - Keberlanjutan (Sustainability)
AI medis perlu mempertimbangkan dampak lingkungan digital seperti konsumsi energi dan jejak karbon dari komputasi besar (big data computing). - Kolaborasi Global (Global Collaboration)
Peneliti menekankan perlunya kemitraan internasional lintas disiplin, menggabungkan standar teknis, regulasi etis, dan kebijakan publik agar AI memiliki keseragaman nilai global.
Kelima pilar ini membentuk fondasi ilmiah bagi model “AI yang dapat dipercaya”, di mana inovasi klinis dan tanggung jawab sosial berjalan beriringan.
“Regulatory Genome”: Regulasi yang Tumbuh Seperti Organisme
Salah satu inovasi konsep terbesar dari penelitian ini adalah Regulatory Genome, sebuah model adaptif yang menganalogikan regulasi AI seperti genom biologis yang bisa berevolusi.
Dalam sains bioteknologi, genom memungkinkan organisme beradaptasi terhadap perubahan lingkungan. Demikian pula, Regulatory Genome dirancang agar kebijakan AI dapat berevolusi mengikuti dinamika teknologi tanpa kehilangan stabilitas etisnya.
Kerangka ini mencakup:
- Kode regulasi dasar, yaitu prinsip universal seperti keselamatan pasien, privasi data, dan transparansi;
- Gen adaptif, yang bisa dimodifikasi sesuai konteks sosial, budaya, dan teknologi di tiap negara;
- Ekspresi kebijakan, yaitu penerapan hukum, audit, dan standar industri berdasarkan kebutuhan lokal.
Dengan cara ini, AI tidak lagi tunduk pada regulasi yang kaku, melainkan hidup dalam sistem hukum yang belajar, menyesuaikan, dan berevolusi bersama inovasi.
Etika sebagai Infrastruktur Ilmiah
Penelitian ini menegaskan bahwa kepercayaan publik terhadap AI sama pentingnya dengan akurasi teknologinya. AI yang bias atau tidak transparan akan kehilangan legitimasi sosial, meskipun secara teknis unggul.
Implikasinya bagi sistem kesehatan meliputi:
- Pengembangan standar pengujian etika dan kinerja klinis sebelum penerapan AI di rumah sakit.
- Pembentukan komite audit AI multidisipliner (dokter, insinyur, etikus, dan pasien).
- Kolaborasi global untuk menciptakan kode etik AI medis universal berbasis prinsip keadilan dan kesejahteraan pasien.
Dengan pendekatan ini, etika bukan lagi sekadar pelengkap moral, melainkan bagian integral dari infrastruktur ilmiah sistem kesehatan digital.
Penelitian Goktas dan Grzybowski menandai pergeseran penting dalam paradigma AI kesehatan:
Dari “inovasi tanpa batas” menuju “inovasi yang bertanggung jawab.”
Mereka menunjukkan bahwa AI medis yang sukses bukanlah yang paling canggih secara algoritmik, melainkan yang paling manusiawi secara etika.
Membangun AI yang dapat dipercaya membutuhkan kolaborasi lintas ilmu, regulasi yang adaptif, dan komitmen moral terhadap transparansi dan keadilan. Dengan fondasi ilmiah seperti FAIR-AI dan Regulatory Genome, masa depan kedokteran digital dapat berkembang secara berkelanjutan, menggabungkan kekuatan mesin dan kebijaksanaan manusia.
Baca juga artikel tentang: Infiltrasi Mikroplastik dalam Makanan: Disrupsi Sistem Farmakologi dan Kesehatan Manusia
REFERENSI:
Goktas, Polat & Grzybowski, Andrzej. 2025. Shaping the future of healthcare: ethical clinical challenges and pathways to trustworthy AI. Journal of Clinical Medicine 14 (5), 1605.
