VISI | Masa Depan AI: Bagaimana Konsumen dapat Memengaruhi Siapa yang Mengendalikan AI

Oleh Arif Perdana (Universitas Monash, Indonesia), dan Ridoan Karim (Universitas Monash, Malaysia).

• Pengembangan AI saat ini dipegang oleh sejumlah kecil perusahaan. Kewaspadaan publik dapat membantu memastikan mereka tetap menggunakan teknologi ini secara etis.

WARREN BUFFETT sebagian benar tentang AI. Investor miliarder dan filantropis itu mengatakan kepada CNN awal tahun ini: "Kita membiarkan jin keluar dari botol ketika kita mengembangkan senjata nuklir... AI agak mirip — sebagian sudah keluar dari botol."

Alasan Buffett adalah bahwa, seperti senjata nuklir, AI berpotensi melepaskan konsekuensi yang mendalam dalam skala besar, baik untuk hal yang baik maupun yang buruk.

Dan, seperti senjata nuklir, AI terkonsentrasi di tangan segelintir orang. Dalam kasus AI, perusahaan teknologi dan negara. Ini adalah perbandingan yang tidak sering dibicarakan.

Ketika perusahaan-perusahaan ini mendorong batas-batas inovasi, muncul pertanyaan kritis: Apakah kita mengorbankan keadilan dan kesejahteraan masyarakat demi kemajuan? Satu studi menunjukkan bahwa pengaruh Big Tech ada di mana-mana di semua aliran proses kebijakan, yang memperkuat posisi mereka sebagai "pengusaha kebijakan super."

Hal ini memungkinkan mereka untuk mengarahkan kebijakan yang menguntungkan kepentingan mereka, sering kali dengan mengorbankan kepentingan masyarakat yang lebih luas. Kekuasaan yang terkonsentrasi ini juga memungkinkan perusahaan-perusahaan ini untuk membentuk teknologi AI menggunakan kumpulan data besar yang mencerminkan demografi dan perilaku tertentu, sering kali dengan mengorbankan masyarakat yang lebih luas.

Hasilnya adalah lanskap teknologi yang, meskipun berkembang pesat, mungkin secara tidak sengaja memperdalam kesenjangan sosial dan melestarikan bias yang ada. Kekhawatiran etika Kekhawatiran etika yang berasal dari konsentrasi kekuasaan ini signifikan. Jika model AI terutama dilatih pada data yang mencerminkan perilaku satu demografi, model tersebut mungkin berkinerja buruk saat berinteraksi dengan atau membuat keputusan tentang demografi lain, yang berpotensi menyebabkan diskriminasi dan ketidakadilan sosial.