VISI | Bisakah AI Melawan Bias Gender dalam Perawatan Kesehatan?

Infiltrasi stereotip maskulin ke dalam AI telah muncul — mulai dari penggunaan kata ganti laki-laki "dia" yang tampaknya tidak disadari ketika pilihannya ambigu, hingga aplikasi layanan kesehatan yang mengkhawatirkan yang mengancam diagnosis dan perawatan.

Misalnya, dalam bidang psikiatri, ketika pria menggambarkan gejala trauma, mereka lebih mungkin didiagnosis dengan gangguan stres pascatrauma (PTSD), sementara wanita yang menggambarkan gejala yang sama berisiko lebih tinggi menerima diagnosis gangguan kepribadian.

Bias gender semacam ini dapat (dan sering kali) memengaruhi akses wanita terhadap perawatan kesehatan atau manajemennya dalam sistem perawatan kesehatan — dan tampaknya bias ini direplikasi dalam model AI.

Sebuah studi tahun 2020 dari AS menemukan bahwa model AI Pemrosesan Bahasa Alami yang digunakan dalam psikiatri menunjukkan bias gender yang signifikan.

Makalah penelitian, yang diterbitkan dalam PLos One, memperingatkan bahwa model AI yang menyaring psikopatologi atau bunuh diri akan membuat kesalahan jika dilatih terutama pada data yang ditulis oleh pria kulit putih, karena bahasa dibentuk oleh gender. Pria dan wanita mengekspresikan tekanan bunuh diri secara berbeda, misalnya.

Yang terpenting, kesadaran akan jenis masalah ini meningkat dan inisiatif untuk menghindari bias muncul — sering kali didorong oleh wanita, seperti Bioinfo4women-B4W, sebuah program dari Barcelona Supercomputing Centre.

Contoh ini juga mengingatkan kita bahwa pertimbangan seputar bias dan bahasa yang bergender dalam AI harus melampaui bahasa Inggris, agar relevan dengan pengembangan AI di seluruh dunia.

Peluang untuk Desain yang Inklusif

Namun, kekhawatiran tidak berhenti pada tataran bahasa. Bagaimana jika sesuatu yang mendasar seperti bentuk tubuh kita tidak dipertimbangkan saat AI dikembangkan?