설명 가능한 AI

AI 윤리

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

설명 가능한 AI란 무엇인가요?

• 인간이 내부 작동 방식을 이해하는 AI 시스템
• 목표: AI의 의사결정 과정을 명확하고, 이해하기 쉬우며, 설명 가능하게 만들기
• AI가 결정을 내리는 이유와 방법을 이해하는 데 도움이 됩니다
• 윤리적 AI 사용을 향한 중대한 걸음

¹ 아이콘 제작: vectorsmarket15, www.flaticon.com

핵심적인 요소

• 투명성, 공정성, 책임성이 중심에 있습니다
• AI 결론은 인간이 이해할 수 있고 논리적이어야 합니다

• 설명 가능성을 핵심에 두고 구축된 모델
• 의사결정 트리 또는 선형 회귀와 같은 해석 가능한 모델을 사용합니다
• 성능이 다소 낮을 수 있음에도 불구하고, 과정을 보는 것의 힘

¹ 아이콘 제작: juicy_fish & Becris, www.flaticon.com

어떻게 작동하나요?

어떻게 작동하나요?

LIME(Local Interpretable Model-agnostic Explanations)

• LIME은 모델이 소통할 수 있도록 돕는 번역가 역할을 합니다
• 특정 예측에 대해 모델의 의사결정 과정을 더 단순하게 만듭니다
• 예시: {{3}}
  • 감독의 인기와 높은 예산과 같은 요소를 기반으로 영화의 흥행을 예측합니다

¹ 아이콘 제작자: Freepik, www.flaticon.com

SHAP(SHapley Additive exPlanations)

• SHAP: AI의 탐정, 기능의 중요성을 밝힙니다
• 실제 SHAP 사례
  • 감독: 50%
  • 출연진: 30%
  • 장르: 15%
  • 예산: 5%

XAI의 미래

• XAI에는 훨씬 더 많은 기법과 접근 방식이 존재합니다
• XAI와 기존 AI 간의 격차가 줄어들고 있습니다
• 지속적인 연구를 통해 AI 해석 가능성이 향상되고 있습니다

연습해봅시다!

AI 윤리