Risiko eksternal dalam AI

Keamanan AI dan Manajemen Risiko

Angeline Corvaglia

Founder and Digital Transformation Expert

risiko eksternal

Risiko internal

Dalam desain atau data

pemisah

Risiko eksternal

Aktor luar

  • Memanipulasi model

 

  • Menargetkan berbagai aspek
Keamanan AI dan Manajemen Risiko

Risiko eksternal umum

representasi risiko eksternal

  • Serangan input adversarial
  • Korupsi dan peracunan data
  • Pencurian dan pembalikan model
  • Serangan infrastruktur
  • Serangan rantai pasok
Keamanan AI dan Manajemen Risiko

Serangan input adversarial

  • Dampak pada fase inferensi (saat menemui data baru)
  • Mempengaruhi pengambilan keputusan

pemisah

Contoh

  • Sedikit mengubah gambar
  • Salah klasifikasi

representasi serangan input adversarial

Keamanan AI dan Manajemen Risiko

Korupsi dan peracunan data

  • Dampak pada fase pelatihan
  • Menargetkan integritas pembelajaran

bola lampu

Contoh

  • Ulasan produk palsu
  • Mempengaruhi sistem rekomendasi e-commerce

representasi korupsi data

Keamanan AI dan Manajemen Risiko

Pencurian dan pembalikan model

representasi pembalikan model

  • Menargetkan informasi sensitif
  • Mengeksploitasi model itu sendiri

bola lampu

Contoh

  • Gunakan input yang dimanipulasi untuk mengungkap data privat yang dipakai saat pelatihan
Keamanan AI dan Manajemen Risiko

Serangan infrastruktur

representasi serangan infrastruktur

  • Menargetkan lingkungan fisik dan virtual
  • Menyerang infrastruktur

bola lampu

Contoh

  • Membanjiri server AI dengan permintaan hingga overload dan tidak dapat diakses
Keamanan AI dan Manajemen Risiko

Serangan rantai pasok

representasi serangan rantai pasok

  • Mengompromikan komponen atau pustaka
  • Mengeksploitasi blok pembangun model AI

bola lampu

Contoh

  • Menyisipkan kerentanan di pustaka yang banyak dipakai
Keamanan AI dan Manajemen Risiko

Praktik keamanan terbaik

  • Audit keamanan rutin
  • Validasi dan sanitasi data
  • Kontrol akses yang kuat
  • Enkripsi data sensitif
  • Anonimisasi data

representasi seperangkat alat

Keamanan AI dan Manajemen Risiko

Praktik terbaik lainnya

  • Pemantauan berkelanjutan
  • Gunakan alat tepercaya
  • Perbarui alat secara rutin
  • Edukasi berkelanjutan

gambar mewakili praktik terbaik

Keamanan AI dan Manajemen Risiko

Risiko cepat berkembang

  • Adaptasi berkelanjutan
  • Pembelajaran terus-menerus
  • Manajemen risiko proaktif
  • Kewaspadaan

representasi perubahan cepat

Keamanan AI dan Manajemen Risiko

Ayo berlatih!

Keamanan AI dan Manajemen Risiko

Preparing Video For Download...