Teknis XAI

Konsep Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Explainability

  • Orang dengan latar belakang berbeda akan menafsirkan hasil secara berbeda

grafik yang menggambarkan penjelasan fitur data dalam persentase

Konsep Explainable Artificial Intelligence (XAI)

Explainability

  • Orang dengan latar belakang berbeda akan menafsirkan hasil secara berbeda

grafik yang menggambarkan penjelasan fitur data dalam persentase dan kata

Konsep Explainable Artificial Intelligence (XAI)

Menerima keterbatasan XAI

 

  • Model yang lebih canggih biasanya kompleks: model black box
  • Model black box: jenis model dengan proses pengambilan keputusan yang sulit dipahami manusia
  • Kompromi antara kinerja dan explainability

grafik yang menggambarkan input diketahui, tanda tanya, dan output

Konsep Explainable Artificial Intelligence (XAI)

Menyeimbangkan kompleksitas dan keterjelasan

grafik yang menggambarkan timbangan antara keterjelasan dan kompleksitas

  • Tidak semua model kuat mengorbankan keterjelasan
  • Beberapa teknik sedikit kurang akurat namun lebih dapat dijelaskan
Konsep Explainable Artificial Intelligence (XAI)

Teknik dalam XAI

  • Model yang dapat dijelaskan sejak desain: decision tree, linear regression
  • Teknik explainability: mengestimasi apa yang terjadi dalam proses pengambilan keputusan

grafik yang menggambarkan model yang dapat dijelaskan

Konsep Explainable Artificial Intelligence (XAI)

Ayo berlatih!

Konsep Explainable Artificial Intelligence (XAI)

Preparing Video For Download...