VISI | Masa Depan AI: Bagaimana Konsumen dapat Memengaruhi Siapa yang Mengendalikan AI

Amplifikasi bias ini bukan hanya masalah teoritis tetapi kenyataan mendesak yang menuntut perhatian segera. Porcha Woodruff, misalnya, seorang wanita kulit hitam yang sedang hamil, mendapati dirinya ditangkap secara tidak sah karena kesalahan pengenalan wajah—pengingat nyata akan konsekuensi AI di dunia nyata.

Dalam perawatan kesehatan, algoritma yang banyak digunakan sangat meremehkan kebutuhan pasien kulit hitam, yang menyebabkan perawatan yang tidak memadai dan melanggengkan kesenjangan yang ada. Kasus-kasus ini menggarisbawahi pola yang meresahkan: sistem AI, yang dilatih pada data yang bias, memperbesar ketidaksetaraan sosial.

Pertimbangkan algoritma yang menggerakkan sistem AI ini, yang dikembangkan terutama dalam lingkungan yang kurang pengawasan terkait keadilan dan inklusivitas.

Mengembangkan bias

Akibatnya, aplikasi AI di bidang-bidang seperti pengenalan wajah, praktik perekrutan, dan persetujuan pinjaman dapat menghasilkan hasil yang bias, yang memengaruhi komunitas yang kurang terwakili secara tidak proporsional.

Risiko ini diperparah oleh model bisnis perusahaan-perusahaan ini, yang menekankan pengembangan dan penerapan yang cepat daripada tinjauan etika yang ketat, yang mengutamakan keuntungan di atas pertimbangan yang tepat tentang dampak sosial jangka panjang.

Untuk mengatasi tantangan ini, perubahan dalam pengembangan AI sangat dibutuhkan. Memperluas pengaruh di luar perusahaan teknologi besar untuk mencakup peneliti independen, ahli etika, kelompok kepentingan publik, dan regulator pemerintah yang bekerja sama untuk menetapkan pedoman yang memprioritaskan pertimbangan etika dan kesejahteraan masyarakat dalam pengembangan AI akan menjadi awal yang baik.

Pemerintah memiliki peran penting untuk dimainkan. Penegakan antimonopoli yang ketat akan membatasi kekuatan perusahaan teknologi besar dan mendorong persaingan. Pengawas independen dengan kewenangan untuk memberikan sanksi terhadap praktik perusahaan teknologi besar juga akan membantu meningkatkan partisipasi publik dalam pembuatan kebijakan dan mensyaratkan transparansi dalam algoritme dan praktik data perusahaan teknologi.