Risiko keamanan yang spesifik untuk AI

Keamanan AI dan Manajemen Risiko

Angeline Corvaglia

Founder and Digital Transformation Specialist

Pentingnya manajemen risiko

representasi keamanan yang mendorong kepercayaan dan efisiensi

  • Manfaatkan secara aman dan bertanggung jawab
  • Pendekatan keamanan harus berubah
  • Strategi keamanan tradisional tidak cukup
Keamanan AI dan Manajemen Risiko

Pikirkan dampak integrasi AI seperti koin:

  • Potensi
  • Risiko keamanan

gambar dua sisi koin keamanan AI

Keamanan AI dan Manajemen Risiko

Risiko halus namun berbahaya

simbol AI

  • Bias
  • Halusinasi
  • Peracunan data
  • Serangan adversarial
  • Pengungkapan data sensitif
Keamanan AI dan Manajemen Risiko

Bias AI dalam sistem perekrutan

  1. Melatih AI dengan data historis
  2. Mencerminkan bias masa lalu
  3. Memperbesar bias
  4. Turunnya kepercayaan pada organisasi

simbol bias dalam perekrutan

Keamanan AI dan Manajemen Risiko

Manipulasi platform belanja online

  1. Platform dengan sistem rekomendasi AI
  2. Data palsu dimasukkan
  3. AI merekomendasikan produk tidak populer/berbahaya
  4. Banyak konsekuensi potensial

simbol AI dalam belanja online

Keamanan AI dan Manajemen Risiko

Bias AI

simbol bias AI

Keputusan kilat memperbesar dampak bias

Dapat menguntungkan atau merugikan secara tidak adil

Hasil tidak merata dalam kecepatan tinggi

Keamanan AI dan Manajemen Risiko

Halusinasi

  • Menyajikan informasi salah atau menyesatkan seolah benar

Dapat menyebabkan:

  • Pengambilan keputusan yang keliru
  • Misinformasi dan hilangnya kepercayaan

ikon yang merepresentasikan halusinasi

Keamanan AI dan Manajemen Risiko

Peracunan data

simbol peracunan data

Pengubahan data pelatihan secara sengaja

Menyebabkan sistem AI melenceng

  • Prediksi atau keputusan yang salah
  • Dampak signifikan
Keamanan AI dan Manajemen Risiko

Serangan adversarial

simbol serangan adversarial

Memberikan masukan yang menyesatkan

  • Saat operasi
  • Sulit dideteksi
  • Mengganggu integritas
Keamanan AI dan Manajemen Risiko

Pengungkapan data sensitif

simbol pengungkapan data sensitif

Data dalam jumlah besar untuk pelatihan dan operasi.

tanda seru

Risiko terbukanya data sensitif jika tidak diamankan memadai

Keamanan AI dan Manajemen Risiko

Pahami risiko agar dapat mengelolanya

simbol potensi kerugian

Keamanan AI dan Manajemen Risiko

Mitigasi risiko proaktif

simbol keamanan proaktif

  • Antisipasi risiko
  • Ketahui ekosistem keamanan AI
  • Future-proof keamanan AI
  • Bangun budaya sadar keamanan
  • Pahami risiko model dan eksternal
  • Selaraskan keamanan AI dengan tujuan organisasi
Keamanan AI dan Manajemen Risiko

Ayo mulai!

Keamanan AI dan Manajemen Risiko

Preparing Video For Download...