설명 가능성과 해석 가능성

인공 지능 이해하기

Iason Prassides

Content Developer, DataCamp

설명 가능성과 해석 가능성

설명 가능성: 인간이 AI 출력(예: 예측, 결정)에 액세스하고 이를 이해하는 능력

해석 가능성: AI 시스템의 내부 프로세스 이해(알고리즘, 모델, 데이터 워크플로)

화이트박스 vs 블랙박스 AI 시스템

화이트박스: 투명하고 쉽게 해석 가능한 모델/시스템

화이트박스 vs 블랙박스 AI 시스템

화이트박스: 투명하고 쉽게 해석 가능한 모델/시스템

화이트박스 vs 블랙박스 AI 시스템

화이트박스: 투명하고 쉽게 해석 가능한 모델/시스템

화이트박스 vs 블랙박스 AI 시스템

블랙박스: 높은 복잡성, 이해 가능성은 거의 없거나 전혀 없음

화이트박스 vs 블랙박스 AI 시스템

블랙박스: 높은 복잡성, 이해 가능성은 거의 없거나 전혀 없음

기본 XAI(설명 가능한 AI) 도구

XAI: AI 시스템과 모델의 투명성 및 설명 가능성을 높이는 방법과 도구

• 모델 자기 성찰: 내부 모델 매개변수를 검토하여 결정 이해하기

기본 XAI(설명 가능한 AI) 도구

XAI: AI 시스템과 모델의 투명성 및 설명 가능성을 높이는 방법과 도구

• 모델 자기 성찰: 내부 모델 매개변수를 검토하여 결정 이해하기
• 모델 문서화: 공유 가능한 아키텍처 및 설계 고려 사항

기본 XAI(설명 가능한 AI) 도구

XAI: AI 시스템과 모델의 투명성 및 설명 가능성을 높이는 방법과 도구

• 모델 자기 성찰: 내부 모델 매개변수를 검토하여 결정 이해하기
• 모델 문서화: 공유 가능한 아키텍처 및 설계 고려 사항
• 모델 시각화: 데이터 특성과 모델 출력의 인간 친화적 표현

XAI 도구: 특성 중요도

특성 중요도: 모델 출력에서 특성(예측 변수)의 영향 또는 기여도

• 데이터 기반 모델(ML/DL)이 결정하는 방법 이해
• 문제(예: 편향) 탐지 및 완화
• 특성이 제거되면 모델 성능에 미치는 영향

SHAP(SHapley Additive exPlanations)

• 특성 중요도 시각화 도구 상자

XAI 도구: 특성 중요도

SHAP(SHapley Additive exPlanations)

XAI 도구: 특성 중요도

SHAP(SHapley Additive exPlanations)

XAI 도구: 특성 중요도

SHAP(SHapley Additive exPlanations)

XAI의 실용적 의미

• 알고리즘 투명성:
  • 알고리즘이 데이터를 처리하고 결정을 내리는 방법

• 로컬 및 글로벌 해석 가능성:
  • 특정 예측에 대한 시스템 동작 이해 vs
  • 데이터 세트 또는 문제에서 시스템의 전반적인 동작 이해

• 윤리적 고려 사항:
  • 윤리적 AI 우려 해결을 위한 XAI: 편향, 차별, 규정 준수 등

• 인간 및 AI 간 협업:
  • 신뢰와 피드백에 기반한 안정적인 협업

연습해 봅시다!

인공 지능 이해하기