Kepercayaan pada Fakta Runtuh di Era AI

Persoalannya bukan hanya bahwa AI bisa salah. Yang lebih berbahaya adalah AI dapat terdengar sangat yakin ketika memberikan jawaban yang salah.

Tidak seperti manusia yang mungkin mengakui ketidakpastian atau menunjukkan sumber yang digunakan, model AI dapat menghasilkan jawaban dengan bahasa meyakinkan meskipun kesimpulannya keliru.

Alat pendeteksi AI juga tidak sempurna

Masalah serupa muncul pada berbagai perangkat pendeteksi konten AI.

Sebagian alat mencoba mengenali pola statistik dalam tulisan. Sebagian lainnya memeriksa metadata. Ada pula sistem yang mencari tanda air digital tertentu, seperti teknologi SynthID milik Google.

Namun, masing-masing pendekatan hanya melihat sebagian kecil dari persoalan.

Konten dapat diedit, dikompresi, diubah formatnya, atau dibuat sedemikian rupa sehingga melewati sistem pendeteksi. Sebaliknya, konten asli juga dapat keliru ditandai sebagai hasil AI.

Inilah yang membuat skor probabilitas saja tidak cukup.