VISI | Bisakah AI Melawan Bias Gender dalam Perawatan Kesehatan?

Oleh Sue Haupt dan Bronwyn Graham (UNSW), dan Jane Hirst (The George Institute for Global Health dan Imperial College London di Sydney)

REVOLUSI AI dapat dimanfaatkan untuk memperkuat kesetaraan kesehatan jenis kelamin dan gender, daripada memperkuat bias.

Dari membantu dokter dengan diagnosis hingga menyarankan perawatan lanjutan, Kecerdasan Buatan (AI) mengubah kesehatan dan pengobatan.

Tetapi AI sebagian besar dikembangkan oleh pria, berdasarkan kumpulan data yang memprioritaskan tubuh dan kebutuhan kesehatan pria. Itu berarti banyak model AI penuh dengan bias gender dan jenis kelamin — yang menimbulkan risiko kesehatan bagi wanita, serta pasien nonbiner.

Dengan bias dalam bidang kedokteran yang menjadi sorotan dalam beberapa tahun terakhir, apakah AI akan memperlebar ketidakadilan layanan kesehatan yang ada — atau dapatkah AI dimanfaatkan untuk membantu menjembatani kesenjangan tersebut?

Data yang Bias

Kualitas AI sepenuhnya bergantung pada kualitas kumpulan data besar yang dimasukkan ke dalam algoritma pembelajaran mesin yang mendasarinya dalam program perangkat lunaknya.

Jika data tersebut mengecualikan atau kurang mewakili sektor-sektor yang relevan dari populasi global, AI yang kurang informasi dapat menimbulkan risiko kesehatan yang serius — mulai dari diagnosis yang terlewat, hingga mengorbankan interpretasi pencitraan medis, hingga rekomendasi intervensi yang salah.

Masalah dimulai dengan bias gender yang mendasari pengkodean bahasa perangkat lunak AI.