Risiko eksternal dalam AI
Keamanan AI dan Manajemen Risiko
Angeline Corvaglia
Founder and Digital Transformation Expert
Risiko internal
Dalam desain atau data
Risiko eksternal
Aktor luar
- Memanipulasi model
- Menargetkan berbagai aspek
Risiko eksternal umum
Serangan input adversarial
- Dampak pada fase inferensi (saat menemui data baru)
- Mempengaruhi pengambilan keputusan
Contoh
- Sedikit mengubah gambar
- Salah klasifikasi
Korupsi dan peracunan data
- Dampak pada fase pelatihan
- Menargetkan integritas pembelajaran
Contoh
- Ulasan produk palsu
- Mempengaruhi sistem rekomendasi e-commerce
Pencurian dan pembalikan model
- Menargetkan informasi sensitif
- Mengeksploitasi model itu sendiri
Contoh
- Gunakan input yang dimanipulasi untuk mengungkap data privat yang dipakai saat pelatihan
Serangan infrastruktur
- Menargetkan lingkungan fisik dan virtual
- Menyerang infrastruktur
Contoh
- Membanjiri server AI dengan permintaan hingga overload dan tidak dapat diakses
Serangan rantai pasok
- Mengompromikan komponen atau pustaka
- Mengeksploitasi blok pembangun model AI
Contoh
- Menyisipkan kerentanan di pustaka yang banyak dipakai
Praktik keamanan terbaik
Praktik terbaik lainnya
Risiko cepat berkembang
