VISI | Bisakah AI Melawan Bias Gender dalam Perawatan Kesehatan?

Oleh Sue Haupt dan Bronwyn Graham (UNSW), dan Jane Hirst (The George Institute for Global Health dan Imperial College London di Sydney)

REVOLUSI AI dapat dimanfaatkan untuk memperkuat kesetaraan kesehatan jenis kelamin dan gender, daripada memperkuat bias.

Dari membantu dokter dengan diagnosis hingga menyarankan perawatan lanjutan, Kecerdasan Buatan (AI) mengubah kesehatan dan pengobatan.

Tetapi AI sebagian besar dikembangkan oleh pria, berdasarkan kumpulan data yang memprioritaskan tubuh dan kebutuhan kesehatan pria. Itu berarti banyak model AI penuh dengan bias gender dan jenis kelamin — yang menimbulkan risiko kesehatan bagi wanita, serta pasien nonbiner.

Dengan bias dalam bidang kedokteran yang menjadi sorotan dalam beberapa tahun terakhir, apakah AI akan memperlebar ketidakadilan layanan kesehatan yang ada — atau dapatkah AI dimanfaatkan untuk membantu menjembatani kesenjangan tersebut?

Data yang Bias

Kualitas AI sepenuhnya bergantung pada kualitas kumpulan data besar yang dimasukkan ke dalam algoritma pembelajaran mesin yang mendasarinya dalam program perangkat lunaknya.

Jika data tersebut mengecualikan atau kurang mewakili sektor-sektor yang relevan dari populasi global, AI yang kurang informasi dapat menimbulkan risiko kesehatan yang serius — mulai dari diagnosis yang terlewat, hingga mengorbankan interpretasi pencitraan medis, hingga rekomendasi intervensi yang salah.

Masalah dimulai dengan bias gender yang mendasari pengkodean bahasa perangkat lunak AI.

Infiltrasi stereotip maskulin ke dalam AI telah muncul — mulai dari penggunaan kata ganti laki-laki "dia" yang tampaknya tidak disadari ketika pilihannya ambigu, hingga aplikasi layanan kesehatan yang mengkhawatirkan yang mengancam diagnosis dan perawatan.

Misalnya, dalam bidang psikiatri, ketika pria menggambarkan gejala trauma, mereka lebih mungkin didiagnosis dengan gangguan stres pascatrauma (PTSD), sementara wanita yang menggambarkan gejala yang sama berisiko lebih tinggi menerima diagnosis gangguan kepribadian.

Bias gender semacam ini dapat (dan sering kali) memengaruhi akses wanita terhadap perawatan kesehatan atau manajemennya dalam sistem perawatan kesehatan — dan tampaknya bias ini direplikasi dalam model AI.

Peluang untuk Desain yang Inklusif

Namun, kekhawatiran tidak berhenti pada tataran bahasa. Bagaimana jika sesuatu yang mendasar seperti bentuk tubuh kita tidak dipertimbangkan saat AI dikembangkan?

Seiring meluasnya penggunaan AI ke dalam desain produk keselamatan, kita memiliki peluang yang belum pernah ada sebelumnya untuk membangun produk yang lebih baik dengan membuat fitur-fitur yang secara memadai memenuhi kebutuhan tubuh manusia kita — perempuan dan laki-laki.

Rata-rata tubuh perempuan dan laki-laki memiliki perbedaan proporsionalitas; kita tidak bisa begitu saja menyesuaikan dari satu ke yang lain.

Hal ini ditekankan selama pandemi COVID, saat mengenakan alat pelindung diri (APD) menjadi kewajiban.

Meskipun sekitar 70 persen pekerja layanan kesehatan global adalah perempuan, APD telah dirancang untuk tubuh laki-laki. Sebuah survei di Kanada mengidentifikasi bahwa APD yang tidak pas tidak hanya bertanggung jawab atas kegagalan dalam memberikan perlindungan yang memadai, tetapi juga bahwa perlengkapan yang terlalu besar dan tidak pas menimbulkan risiko kecelakaan yang signifikan.

Diperlukan lebih banyak penelitian mengenai topik ini, tetapi para peneliti telah mengusulkan untuk membangun APD yang dirancang dengan AI. Memastikan bahwa ciri-ciri jenis kelamin dipertimbangkan dalam desain APD diharapkan dapat meningkatkan keselamatan.

Bergerak ke arah yang benar Keakuratan diagnosis klinis yang dibantu AI sepenuhnya bergantung pada ketahanan set data yang mendasarinya. Tanpa secara aktif memperhitungkan bias jenis kelamin dan gender dalam set data historis, AI dapat berkontribusi pada diagnosis yang terlewat atau salah.

Untungnya, penyesuaian terhadap bias tersebut tampaknya mengarah pada hasil perawatan kesehatan yang lebih baik bagi wanita.