XAI'nin teknik ayrıntıları

Açıklanabilir Yapay Zekâ (XAI) Kavramları

Folkert Stijnman

ML Engineer

Açıklanabilirlik

• Farklı geçmişe sahip kişiler sonuçları farklı yorumlar

Açıklanabilirlik

• Farklı geçmişe sahip kişiler sonuçları farklı yorumlar

XAI'nin sınırlamalarını kabullenme

 

• Daha gelişmiş modeller doğası gereği karmaşıktır: kara kutu modeller
• Kara kutu modeller: karar süreci insanların kolayca anlayamayacağı türde modeller
• Performans ile açıklanabilirlik arasında ödünleşim vardır

Karmaşıklık ile yorumlanabilirlik dengesi

• Tüm güçlü modeller yorumlanabilirliği feda etmez
• Bazı teknikler biraz daha az doğru ama daha yorumlanabilirdir

XAI'deki teknikler

• Tasarım gereği yorumlanabilir modeller: karar ağaçları, doğrusal regresyon
• Açıklanabilirlik teknikleri: karar sürecinde ne olduğuna dair bir tahmin sunar

Haydi pratik yapalım!

Açıklanabilir Yapay Zekâ (XAI) Kavramları