Mengapa Explainable AI penting

Konsep Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Sistem AI

Prediksi: menganalisis data, mengenali pola, dan membuat prakiraan
- Contoh: tren pasar, risiko kesehatan, dan pola cuaca
Generatif: membuat konten berdasarkan masukan pengguna
- Contoh: teks, kode, gambar, dan suara

Explainable AI (XAI)

Kesenjangan antara teknologi dan pemahaman
Transparansi
Interpretabilitas
Akuntabilitas
Kepercayaan pada AI

robot dan tangan saling menyentuh

Transparansi dalam AI

foto jendela mobil berkabut

Transparansi dalam AI: kemampuan untuk memahami dan menelusuri bagaimana AI membuat keputusan atau prediksi
Menjamin keadilan dan akurasi
Juga memastikan AI dapat dijustifikasi

Interpretabilitas dan akuntabilitas

Interpretabilitas: sejauh mana manusia dapat memahami penyebab keputusan AI
Penting untuk bidang berisiko tinggi seperti kesehatan
Akuntabilitas: penetapan tanggung jawab atas tindakan dan keputusan AI

timbangan keadilan di dalam komputer

Membangun kepercayaan pada sistem AI

lift tradisional hitam putih

Orang cenderung tidak percaya solusi otomatis baru
Pemahaman menumbuhkan kepercayaan
Hubungan manusia–teknologi

Mengapa XAI penting?

XAI membuat sistem AI:

Efektif dan dapat dijustifikasi
Jelas dan mudah dipahami
Mendorong kepercayaan dan keadilan
Memperkuat hubungan manusia–teknologi

Ayo berlatih!

Konsep Explainable Artificial Intelligence (XAI)

Preparing Video For Download...