Kepercayaan pada Fakta Runtuh di Era AI

Verifikasi oleh pakar atau pemeriksa fakta profesional, yang mengandalkan penelitian, sumber, dan penalaran manusia.
Verifikasi berbasis AI, yang menggunakan model bahasa besar dan alat pendeteksi konten sintetis.
Kontekstualisasi berbasis komunitas, seperti Community Notes di X dan forum pengguna yang menilai keaslian atau konteks suatu konten.

Ketiganya memiliki keunggulan, tetapi juga kelemahan serius.

Pemeriksa fakta profesional relatif dapat menjelaskan dasar keputusan mereka, tetapi prosesnya membutuhkan waktu. AI jauh lebih cepat, tetapi sering sulit menjelaskan alasan di balik keputusan. Sementara itu, komunitas pengguna mampu memberikan konteks lokal dan pengalaman langsung, tetapi kualitas dan kecepatannya tidak selalu konsisten.

Grok menjadi peringatan penting

Salah satu contoh paling jelas mengenai keterbatasan verifikasi AI adalah Grok, AI yang tersedia di platform X.

Meskipun pengguna X semakin diarahkan untuk memanfaatkan Grok sebagai alat pemeriksa fakta, penelitian Digital Forensic Research Lab terhadap lebih dari 130.000 unggahan X selama konflik Israel-Iran menemukan sejumlah kegagalan serius.

Grok dilaporkan berulang kali kesulitan membedakan rekaman asli dari media yang dibuat menggunakan AI. Dalam salah satu kasus, sistem tersebut bahkan menganggap video palsu yang memperlihatkan bandara rusak sebagai rekaman nyata.

Kegagalan serupa juga ditemukan dalam konteks konflik India-Pakistan serta demonstrasi imigrasi di Los Angeles.