Penggunaan AI Milik Sendiri, Menciptakan Peluang bagi Para Penyerang Siber

Para pemimpin TI harus memprioritaskan pembentukan pelatihan keamanan yang berpusat pada AI, menurut Casey. Pekerja perlu menyadari bahwa setiap interaksi dengan AI berpotensi melatih model intinya. Dengan menerapkan autentikasi anti-phishing, organisasi dapat beralih dari pelatihan keamanan phishing tradisional menjadi mendidik karyawan tentang penggunaan alat AI yang benar. Fokus pada pendidikan ini akan membentuk pertahanan yang kuat terhadap pelanggaran data yang tidak disengaja dan memberikan titik awal yang baik untuk melakukan pertahanan terhadap serangan siber pihak ketiga.

Tindak lanjut yang bermanfaat bagi CISO adalah mengembangkan kebijakan dinamis yang memperhitungkan sifat alat AI yang terus berkembang dan risiko keamanan yang terkait. Kebijakan harus membatasi masukan rahasia dan hak milik ke layanan AI publik, sehingga mengurangi risiko terungkapnya rincian ini.

“Selain itu, kebijakan-kebijakan ini harus adaptif, ditinjau secara berkala, dan diperbarui agar tetap efektif dalam menghadapi ancaman baru,” kata Casey. “Dengan memahami dan membuat undang-undang yang melarang penyalahgunaan AI, termasuk potensi jailbreak, CISO dapat melindungi organisasi mereka dari ancaman yang muncul.”

@uli/technewsworld.com