모델 불가지론적 설명

설명 가능한 인공지능(XAI) 개념

Folkert Stijnman

ML Engineer

블랙박스 모델

• 무엇이 입력되는지 앎
• 무엇이 출력되는지 앎
• 사이에는 많은 내부 매개변수

전역 vs. 국소 설명

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• 탐정처럼 작동
• 각 특징 확인
• 최종 결과에 대한 각 재료의 상대적 영향 파악에 도움

Shapley 값

• 협력 게임 이론의 개념
• 특징의 영향 평가
• 모델 예측에 어떤 특징이 중요한가

SHAP 이미지 인식

LIME (Local Interpretable Model-agnostic Explanations)

• 과학자처럼 행동
• 입력을 바꿔 결과 관찰
• 이 이미지의 일부 픽셀을 바꾸면?

자율주행차 만들기

SHAP

• 전역적 이해
• 차량 특징이 전체 성능에 미치는 영향

LIME

• 국소적 이해
• 특정 결정에 대한 차량 특징의 영향

연습해 봅시다!

설명 가능한 인공지능(XAI) 개념