Технические аспекты XAI

Концепции объяснимого искусственного интеллекта (XAI)

Folkert Stijnman

ML Engineer

Объяснимость

• Люди с разным опытом интерпретируют результаты по-разному

Объяснимость

• Люди с разным опытом интерпретируют результаты по-разному

Ограничения XAI

 

• Сложные модели по своей природе непрозрачны: модели «чёрного ящика»
• Модели «чёрного ящика»: тип модели, процесс принятия решений в которой сложно понять человеку
• Компромисс между производительностью и объяснимостью

Баланс между сложностью и интерпретируемостью

• Не все мощные модели жертвуют интерпретируемостью
• Некоторые методы немного уступают в точности, но выигрывают в интерпретируемости

Методы XAI

• Интерпретируемые модели: деревья решений, линейная регрессия
• Методы объяснимости: дают оценку того, что происходит в процессе принятия решений

Давайте потренируемся!

Концепции объяснимого искусственного интеллекта (XAI)