Risiko model

Keamanan AI dan Manajemen Risiko

Angeline Corvaglia

Founder and Digital Transformation Expert

Memantau risiko sepanjang siklus hidup

representasi siklus hidup AI

Selama pengembangan

Data adil dan akurat
Belajar secara efektif
Dampak buruk jika sistem cacat diterapkan

titik

Setelah penerapan

Model bisa berubah (drift) seiring waktu
Menyebabkan keluaran bias atau tidak akurat

Tujuh risiko model umum

papan catur untuk mewakili risiko model

Kurang transparansi dan interpretabilitas model
Bias
Halusinasi
Pergeseran model
Overfitting
Underfitting
Kebocoran data

gambar yang mewakili transparansi

Transparansi

Bagaimana model AI membuat keputusan

Interpretabilitas

Mengapa model menghasilkan keluaran tertentu

tanda seru

Di area sensitif seperti kesehatan atau finansial

Proses pengambilan keputusan
Sama pentingnya dengan keputusan itu sendiri

Bias

Preferensi atau prasangka tidak adil

Data pelatihan bias
Algoritme
Data tidak representatif/bercacat
Asumsi manusia

Deteksi dan mitigasi untuk sistem AI yang adil dan etis

Bias AI

Halusinasi

ikon yang mewakili halusinasi

Terjadi karena banyak faktor:

Data pelatihan tidak cukup
Asumsi yang keliru
Bias dalam data

Pergeseran model (model drift)

Sebelumnya akurat

Kehilangan relevansi
Turun akurasi

Model menjadi bingung:

Data berubah
Pola dalam data berubah

representasi pergeseran model

Pembelajaran yang efektif dan akurat

representasi pembelajaran

Overfitting

Belajar terlalu detail

bohlam

Underfitting

Terlalu sederhana untuk belajar

bohlam

Kebocoran data

Data luar ikut dilatih

AI yang dapat dijelaskan (XAI)

Metode dan teknik
Keputusan dapat dipahami manusia
Penjelasan alasan di balik keluaran model

representasi AI yang dapat dijelaskan

Sistem AI yang lebih tangguh, adil, dan aman

Langkah keamanan
Pengembangan yang bertanggung jawab
Dampak jangka panjang

Harus bermanfaat bagi semua

representasi AI yang tangguh, adil & aman

Ayo berlatih!

Keamanan AI dan Manajemen Risiko