XAI의 기술적 요소

설명 가능한 인공지능(XAI) 개념

Folkert Stijnman

ML Engineer

설명 가능성

• 배경이 다른 사람들은 결과를 다르게 해석합니다

설명 가능성

• 배경이 다른 사람들은 결과를 다르게 해석합니다

XAI의 한계 수용하기

 

• 더 정교한 모델은 본질적으로 복잡함: 블랙박스 모델
• 블랙박스 모델: 의사결정 과정을 사람이 쉽게 이해하기 어려운 모델
• 성능과 설명 가능성 간의 균형점

복잡성과 해석 가능성의 균형

• 모든 강력한 모델이 해석 가능성을 희생하지는 않습니다
• 일부 기법은 정확도는 약간 낮지만 해석 가능성은 더 높습니다

XAI 기법

• 설계 단계부터 해석 가능한 모델: 결정 트리, 선형 회귀
• 설명 가능성 기법: 의사결정 과정에서 무엇이 일어났는지 추정 제공

연습해 봅시다!

설명 가능한 인공지능(XAI) 개념