Kepercayaan pada Fakta Runtuh di Era AI

• Verifikasi manusia masih dibutuhkan ketika AI dan sistem berbasis komunitas belum mampu menjamin kecepatan, transparansi, dan kepercayaan sekaligus

VISI.NEWS - Di tengah derasnya arus informasi digital dan semakin canggihnya kecerdasan buatan (AI), masyarakat menghadapi persoalan yang semakin mendasar: siapa yang sebenarnya menentukan apakah sebuah informasi benar atau salah?

Pertanyaan tersebut menjadi semakin penting ketika platform digital mulai mengandalkan AI dan komunitas pengguna untuk menggantikan peran pemeriksa fakta profesional. Teknologi menawarkan verifikasi yang cepat dan berskala besar, tetapi kecepatan belum tentu berarti akurasi. Lebih jauh, sistem otomatis sering kali sulit menjelaskan mengapa sebuah informasi dinilai benar atau salah.

Dalam artikel yang diterbitkan pada 26 Agustus 2026, Ned Watt dari Queensland University of Technology (QUT) GenAI Lab dan Michelle Riedlinger dari QUT menyoroti krisis kepercayaan terhadap mekanisme verifikasi di internet. Menurut mereka, selama sistem otomatis belum mampu menggabungkan kecepatan, kemampuan menjelaskan keputusan, dan kepercayaan, peran manusia dalam verifikasi tetap sangat penting.

Dari pemeriksa fakta ke verifikasi digital

Masyarakat modern selama bertahun-tahun mengandalkan keberadaan fakta bersama sebagai dasar diskusi publik, pengambilan keputusan, hingga berjalannya demokrasi. Namun, ekosistem tersebut kini menghadapi tekanan besar.

Praktik pemeriksaan fakta sebenarnya bukan fenomena baru. Salah satu contoh paling terkenal muncul pada 1927, ketika majalah The New Yorker membentuk unit pemeriksa fakta. Gerakan fact-checking modern kemudian berkembang pesat sekitar pergantian abad, terutama dalam 25 tahun terakhir.

Namun, pada awal 2025, model pemeriksaan fakta profesional mulai mengalami kemunduran. Salah satu titik penting terjadi ketika CEO Meta, Mark Zuckerberg, mengumumkan penghentian program pemeriksa fakta pihak ketiga di Amerika Serikat. Zuckerberg menilai pemeriksa fakta independen terlalu bias secara politik dan justru mengurangi kepercayaan.

Keputusan tersebut tidak hanya berdampak pada Meta. Ketika dukungan finansial dan operasional dari platform besar menghilang, ekosistem pemeriksaan fakta ikut menyusut. Organisasi dan komunitas pemeriksa fakta masih bertahan, tetapi kapasitasnya menjadi lebih kecil.

Media juga mengubah cara melakukan verifikasi

Tekanan terhadap pemeriksa fakta tidak hanya datang dari perubahan kebijakan perusahaan teknologi. Media juga menghadapi persoalan baru berupa banjir konten yang dihasilkan atau dimanipulasi AI.

BBC, misalnya, mengganti unit Reality Check pada 2023 dengan BBC Verify, yang lebih berfokus pada autentikasi gambar dan video. Australian Broadcasting Corporation (ABC) juga mengganti unit ABC RMIT Fact Check dengan ABC Verify.

Perubahan tersebut menunjukkan pergeseran penting: verifikasi informasi tidak lagi hanya mengenai apakah sebuah klaim faktual benar atau salah. Jurnalis kini harus memeriksa apakah foto, video, audio, dan bukti digital benar-benar autentik.

Masalahnya, jumlah konten yang beredar jauh lebih cepat daripada kemampuan manusia untuk memeriksanya satu per satu.

Tiga model verifikasi kini bersaing

Menurut Watt dan Riedlinger, terdapat tiga pendekatan utama yang kini digunakan untuk menghadapi persoalan tersebut:

Verifikasi oleh pakar atau pemeriksa fakta profesional, yang mengandalkan penelitian, sumber, dan penalaran manusia.
Verifikasi berbasis AI, yang menggunakan model bahasa besar dan alat pendeteksi konten sintetis.
Kontekstualisasi berbasis komunitas, seperti Community Notes di X dan forum pengguna yang menilai keaslian atau konteks suatu konten.

Ketiganya memiliki keunggulan, tetapi juga kelemahan serius.

Pemeriksa fakta profesional relatif dapat menjelaskan dasar keputusan mereka, tetapi prosesnya membutuhkan waktu. AI jauh lebih cepat, tetapi sering sulit menjelaskan alasan di balik keputusan. Sementara itu, komunitas pengguna mampu memberikan konteks lokal dan pengalaman langsung, tetapi kualitas dan kecepatannya tidak selalu konsisten.

Grok menjadi peringatan penting

Salah satu contoh paling jelas mengenai keterbatasan verifikasi AI adalah Grok, AI yang tersedia di platform X.

Meskipun pengguna X semakin diarahkan untuk memanfaatkan Grok sebagai alat pemeriksa fakta, penelitian Digital Forensic Research Lab terhadap lebih dari 130.000 unggahan X selama konflik Israel-Iran menemukan sejumlah kegagalan serius.

Grok dilaporkan berulang kali kesulitan membedakan rekaman asli dari media yang dibuat menggunakan AI. Dalam salah satu kasus, sistem tersebut bahkan menganggap video palsu yang memperlihatkan bandara rusak sebagai rekaman nyata.

Kegagalan serupa juga ditemukan dalam konteks konflik India-Pakistan serta demonstrasi imigrasi di Los Angeles.

Persoalannya bukan hanya bahwa AI bisa salah. Yang lebih berbahaya adalah AI dapat terdengar sangat yakin ketika memberikan jawaban yang salah.

Tidak seperti manusia yang mungkin mengakui ketidakpastian atau menunjukkan sumber yang digunakan, model AI dapat menghasilkan jawaban dengan bahasa meyakinkan meskipun kesimpulannya keliru.

Alat pendeteksi AI juga tidak sempurna

Masalah serupa muncul pada berbagai perangkat pendeteksi konten AI.

Sebagian alat mencoba mengenali pola statistik dalam tulisan. Sebagian lainnya memeriksa metadata. Ada pula sistem yang mencari tanda air digital tertentu, seperti teknologi SynthID milik Google.

Namun, masing-masing pendekatan hanya melihat sebagian kecil dari persoalan.

Konten dapat diedit, dikompresi, diubah formatnya, atau dibuat sedemikian rupa sehingga melewati sistem pendeteksi. Sebaliknya, konten asli juga dapat keliru ditandai sebagai hasil AI.

Inilah yang membuat skor probabilitas saja tidak cukup.

Jika sebuah sistem mengatakan suatu gambar memiliki kemungkinan 90 persen dibuat AI, pengguna tetap membutuhkan jawaban atas pertanyaan: mengapa?

Pemeriksa fakta manusia dapat menunjukkan sumber, dokumen, rekaman asli, konteks waktu, atau bukti lain yang mendukung kesimpulan. Sistem AI sering kali hanya memberikan angka keyakinan tanpa argumen yang dapat diperiksa secara independen.

Kekuatan verifikasi berbasis komunitas

Model lain muncul melalui sistem seperti Community Notes di X dan forum komunitas seperti Reddit r/isitAI.

Pendekatan ini memiliki kelebihan yang berbeda. Pengguna yang memahami konteks tertentu dapat memberikan informasi yang mungkin tidak segera dikenali oleh sistem otomatis.

Sejumlah penelitian menunjukkan bahwa kontributor Community Notes banyak mengandalkan sumber yang sudah ada, termasuk pemeriksaan fakta profesional, pemberitaan media arus utama, dan Wikipedia.

Ketika sebuah unggahan yang menyesatkan diberi catatan komunitas, penyebaran ulangnya dapat turun sekitar 46 persen, sementara jumlah likes turun sekitar 44 persen. Catatan mengenai klaim vaksin COVID-19 juga dilaporkan memiliki tingkat akurasi yang sangat tinggi.

Namun, sistem tersebut tetap menghadapi persoalan mendasar: kecepatan.

Kemarahan, rumor, dan informasi palsu dapat menyebar dalam hitungan menit, sedangkan proses untuk memahami konteks, mencapai kesepakatan, dan menerbitkan koreksi membutuhkan waktu lebih lama.

Konteks menjadi keunggulan manusia

Meski demikian, verifikasi berbasis komunitas memiliki keunggulan penting: konteks lokal.

Apa yang dianggap autentik atau menyesatkan di satu komunitas internet belum tentu dipahami dengan cara yang sama oleh komunitas lain. Anggota komunitas yang memahami bahasa, budaya, sejarah, atau situasi lokal dapat memberikan konteks yang sulit ditangkap oleh AI.

Pendekatan semacam itu juga berpotensi mengurangi tuduhan bahwa verifikasi merupakan bentuk pembungkaman. Keputusan tidak semata-mata datang dari perusahaan teknologi atau algoritma yang tidak terlihat, melainkan melalui proses yang melibatkan orang-orang yang memahami konteks perbincangan.

Namun, transparansi proses tetap menjadi syarat utama.

Pertanyaan terbesar: siapa yang menentukan kebenaran?

Di balik seluruh perdebatan tersebut terdapat satu pertanyaan yang jauh lebih penting daripada sekadar "apakah AI akurat?"

Siapa yang memiliki kekuasaan untuk menentukan apa yang benar?

Kemudian muncul pertanyaan lanjutan:

Bagaimana keputusan tersebut dibuat?
Bukti apa yang digunakan?
Siapa yang dapat mengoreksi keputusan?
Apa yang terjadi setelah sebuah konten dinyatakan benar atau salah?
Insentif apa yang memengaruhi keputusan tersebut?

Pertanyaan ini semakin penting karena platform digital modern tidak bekerja seperti lembaga pemeriksa fakta tradisional.

Dulu, proses verifikasi yang lambat masih dapat diterima karena prosesnya relatif dapat dilihat dan diperiksa. Kini, keputusan tentang informasi yang muncul di hadapan pengguna sering kali dipengaruhi oleh sistem platform yang kompleks dan tidak sepenuhnya transparan.

Pada saat yang sama, algoritma platform dapat memberikan keuntungan besar kepada konten yang memicu kemarahan, kontroversi, atau keterlibatan tinggi.

Literasi media tidak cukup hanya dengan "mendeteksi yang palsu"

Australia kini sedang menyusun National Media Literacy Strategy, sebuah langkah yang dinilai penting untuk menghadapi lingkungan informasi baru.

Namun, literasi media di era AI tidak seharusnya berhenti pada kemampuan mengenali gambar palsu, suara sintetis, atau video hasil manipulasi.

Masyarakat juga perlu memiliki literasi tata kelola platform.

Artinya, pengguna harus memahami siapa yang membuat keputusan mengenai informasi, bagaimana keputusan tersebut diambil, bagaimana keputusan dapat digugat, dan kepentingan apa yang mungkin memengaruhinya.

Dengan demikian, kemampuan literasi digital bukan sekadar bertanya:

"Apakah ini dibuat AI?"

Tetapi juga:

"Siapa yang mengatakan bahwa ini palsu atau benar, dan bagaimana saya bisa memeriksa keputusan tersebut?"

Manusia masih memegang peran penting

Perkembangan AI menunjukkan bahwa masyarakat menginginkan proses verifikasi yang lebih cepat dan sederhana. Dalam situasi banjir informasi, kebutuhan tersebut sangat masuk akal.

Namun, kecepatan tidak boleh menggantikan kepercayaan.

AI dapat memproses informasi dalam skala yang tidak mungkin dilakukan manusia. Komunitas dapat memberikan konteks yang sangat spesifik. Pemeriksa fakta profesional dapat menyajikan penalaran dan sumber yang dapat ditelusuri.

Masalahnya, belum ada satu pendekatan yang berhasil menggabungkan semuanya secara konsisten.

Selama AI belum mampu memberikan kecepatan sekaligus penjelasan yang dapat diperiksa dan tingkat kepercayaan yang memadai, verifikasi manusia masih menjadi lapisan pertahanan yang penting.

Pada akhirnya, tantangan terbesar internet bukan sekadar bagaimana menemukan informasi palsu. Tantangan sebenarnya adalah membangun kembali kepercayaan terhadap proses yang menentukan apa yang boleh kita anggap sebagai fakta.

Di era ketika siapa pun dapat membuat konten sintetis dan algoritma dapat menentukan apa yang dilihat jutaan orang, transparansi bukan lagi pelengkap. Transparansi adalah fondasi kepercayaan.

Artikel ini diadaptasi dan disusun ulang berdasarkan tulisan Ned Watt dan Michelle Riedlinger dari Queensland University of Technology yang diterbitkan pada 26 Agustus 2026. Watt merupakan postdoctoral research fellow di QUT GenAI Lab, sedangkan Riedlinger adalah associate professor di School of Communication, QUT.

• Artikel ini diolah lagi dengan artificial inttelegence dan pertama kali diterbitkan oleh 360info pada 26 Agustus 2026.