Технічні аспекти XAI

Концепції Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Пояснюваність

• Люди з різним досвідом тлумачать результати по-різному

Пояснюваність

• Люди з різним досвідом тлумачать результати по-різному

Усвідомлення обмежень XAI

 

• Складніші моделі за природою комплексні: black box-моделі
• Black box-моделі: тип моделей, де процес ухвалення рішень людині важко зрозуміти
• Компроміс між точністю та пояснюваністю

Баланс між складністю та інтерпретованістю

• Не всі потужні моделі втрачають інтерпретованість
• Деякі методи трохи менш точні, зате більш інтерпретовані

Методи в XAI

• Інтерпретовані за задумом моделі: дерева рішень, лінійна регресія
• Методи пояснюваності: оцінюють, що сталося під час ухвалення рішення

Давайте потренуємось!

Концепції Explainable Artificial Intelligence (XAI)