Ledakan AI di Ruang Operasi Picu Kekhawatiran: Laporan Cedera Meningkat, Pengawasan Dipertanyakan

VISI.NEWS | BANDUNG - Gelombang penggunaan kecerdasan buatan (AI) dalam perangkat medis bedah yang digadang-gadang sebagai terobosan justru memunculkan tanda tanya baru soal keselamatan pasien. Di tengah optimisme bahwa teknologi ini dapat meningkatkan akurasi dokter, laporan kerusakan alat, dugaan salah identifikasi anatomi tubuh, hingga cedera serius mulai bermunculan di Amerika Serikat.

Sorotan tajam mengarah pada TruDi Navigation System, perangkat navigasi bedah sinus yang awalnya dipasarkan tanpa AI dan kemudian ditingkatkan dengan algoritma pembelajaran mesin. Sistem ini membantu dokter spesialis telinga, hidung, dan tenggorokan memetakan posisi instrumen bedah di dalam kepala pasien secara real-time. Namun setelah fitur AI ditambahkan pada 2021, jumlah laporan masalah yang masuk ke Badan Pengawas Obat dan Makanan AS (FDA) meningkat drastis.

Sebelum integrasi AI, FDA hanya menerima tujuh laporan malfungsi dan satu laporan cedera pasien terkait perangkat tersebut. Setelah AI diterapkan, tercatat sedikitnya 100 laporan malfungsi dan kejadian tidak diinginkan, dengan sedikitnya 10 pasien dilaporkan mengalami cedera antara akhir 2021 hingga November 2025. Sebagian besar laporan menyebut sistem navigasi memberi informasi lokasi instrumen yang keliru saat operasi berlangsung.

Dalam salah satu laporan, cairan serebrospinal dilaporkan bocor dari hidung pasien. Kasus lain menyebut dasar tengkorak pasien tertusuk secara tidak sengaja. Dua pasien lain dilaporkan mengalami stroke setelah arteri utama terluka saat prosedur.

FDA menegaskan bahwa laporan insiden perangkat medis sering kali tidak lengkap dan tidak dimaksudkan untuk menetapkan penyebab pasti suatu kejadian medis. Artinya, belum jelas sejauh mana AI berperan langsung dalam insiden-insiden tersebut.

Meski begitu, dua korban stroke menggugat di Texas dengan tuduhan bahwa teknologi AI dalam sistem TruDi berkontribusi pada cedera mereka.

Salah satu gugatan menyatakan, “Produk ini bisa dibilang lebih aman sebelum perubahan perangkat lunak untuk memasukkan kecerdasan buatan dibandingkan setelah modifikasi tersebut diterapkan.”

Reuters melaporkan bahwa tuduhan dalam gugatan itu belum dapat diverifikasi secara independen.

Johnson & Johnson, yang unit usahanya Acclarent mengembangkan TruDi, mengalihkan pertanyaan kepada Integra LifeSciences, perusahaan yang mengakuisisi Acclarent pada 2024.

Integra menyatakan laporan FDA “tidak lebih dari sekadar menunjukkan bahwa sistem TruDi digunakan dalam operasi di mana terjadi kejadian yang merugikan.”

Mereka menambahkan, “Tidak ada bukti kredibel yang menunjukkan hubungan sebab akibat antara Sistem Navigasi TruDi, teknologi AI, dan dugaan cedera apa pun.”

Kasus TruDi hanyalah sebagian kecil dari gambaran yang lebih besar. FDA kini telah mengizinkan sedikitnya 1.357 perangkat medis berbasis AI beredar di pasar — dua kali lipat jumlah hingga 2022. Namun peningkatan cepat ini diiringi laporan masalah pada berbagai alat lain, termasuk monitor jantung yang diduga melewatkan detak abnormal serta perangkat USG yang disebut salah mengidentifikasi bagian tubuh janin.

Sebuah kajian peneliti dari Johns Hopkins, Georgetown, dan Yale yang dipublikasikan di JAMA Health Forum menemukan 60 perangkat medis berbasis AI terkait dengan 182 penarikan produk. Sebanyak 43% penarikan terjadi kurang dari setahun setelah izin edar diberikan — sekitar dua kali lipat tingkat penarikan perangkat medis lain di bawah jalur regulasi serupa.

Di sisi regulator, tantangan juga menumpuk. Lima ilmuwan FDA saat ini dan mantan pejabat mengatakan kepada Reuters bahwa lembaga tersebut kesulitan mengejar laju inovasi AI, terutama setelah kehilangan sejumlah staf ahli. Unit khusus yang dulu menjadi pusat evaluasi AI medis dilaporkan menyusut signifikan dalam beberapa tahun terakhir.

Seorang mantan pegawai FDA mengatakan, “Beberapa regulator senior tidak benar-benar memahami cara kerja teknologi ini.”

Ia menambahkan bahwa tim mereka dulu menguji model AI secara agresif untuk mencari potensi kegagalan. Kini, menurut dua mantan pegawai, beban kerja peninjau perangkat hampir dua kali lipat.

“Jika Anda tidak punya sumber daya, lebih besar kemungkinan ada hal yang terlewat,” kata salah satunya.

Juru bicara Departemen Kesehatan dan Layanan Kemanusiaan AS menegaskan, “Keselamatan pasien adalah prioritas tertinggi FDA dan selalu menjadi yang terdepan dalam pekerjaan kami.”

Ia juga menyebut FDA melihat “janji besar” pada perangkat kesehatan digital berbasis AI dan tetap berupaya merekrut tenaga ahli.

Di tengah tarik-menarik antara inovasi dan keselamatan, para pakar regulasi mengingatkan bahwa pendekatan lama mungkin tak lagi memadai.

Dr. Alexander Everhart dari Washington University mengatakan, “Saya pikir pendekatan tradisional FDA dalam mengatur perangkat medis tidak cukup untuk memastikan teknologi berbasis AI aman dan efektif.”

Ia menambahkan, “Kami sangat bergantung pada produsen untuk melakukan pekerjaan dengan baik. Saya tidak yakin pagar pengaman yang ada saat ini benar-benar bermakna.” @kanaya