Jakarta, CoreNews.id – Penggunaan agen Artificial Intelligence (AI) yang otonom dalam bisnis membawa risiko keamanan siber baru, mulai dari kesalahan fatal hingga penyalahgunaan data. Kaspersky, perusahaan keamanan siber global, membagikan kiat utama untuk memitigasi risikonya.
Agen AI yang dapat membuat keputusan dan mengakses data sensitif secara mandiri memerlukan pengawasan ketat. Berikut tujuh prinsip inti dari rekomendasi Kaspersky untuk mengelola agen AI dengan aman:
- Batasi Otonomi & Akses: Terapkan prinsip “hak akses minimal”. Agen hanya boleh mengakses data dan alat yang mutlak diperlukan untuk tugasnya.
- Kunci dengan Kredensial Sementara: Gunakan token atau kunci API berumur pendek untuk setiap tugas agar tidak disalahgunakan peretas.
- Wajibkan Campur Tangan Manusia: Tetapkan persetujuan manual untuk aksi kritis, seperti transfer dana atau penghapusan data besar.
- Isolasi dan Pantau: Jalankan agen di lingkungan terisolasi (sandbox) dan pantau terus perilakunya untuk mendeteksi anomali.
- Log yang Aman & Tidak Terubah: Simpan catatan lengkap semua aksi agen untuk keperluan audit dan investigasi forensik.
- Validasi Input/Output: Saring semua perintah dan keluaran agen untuk mencegah injeksi kode berbahaya.
- Siapkan “Tombol Darurat”: Miliki mekanisme untuk segera menghentikan agen jika terdeteksi perilaku mencurigakan.
Selain kontrol teknis, Kaspersky menekankan pentingnya pelatihan berkelanjutan bagi karyawan tentang realitas dan risiko sistem AI, serta penggunaan alat keamanan otomatis untuk analisis kode yang dihasilkan AI.
Dengan pendekatan Zero Trust dan langkah-langkah proaktif ini, organisasi dapat memanfaatkan agen AI secara lebih aman dan terkendali.
