설명 가능한 AI의 중요성

설명 가능한 인공지능(XAI) 개념

Folkert Stijnman

ML Engineer

AI 시스템

• 예측: 데이터를 분석해 패턴을 찾고 예측합니다
  • _예시_: 시장 동향, 건강 위험, 날씨 패턴
• 생성: 사용자 입력을 바탕으로 콘텐츠를 생성합니다
  • _예시_: 텍스트, 코드, 이미지, 사운드

설명 가능한 AI(XAI)

 

• 기술과 이해의 간극
• 투명성
• 해석 가능성
• 책임성
• AI에 대한 신뢰

 

AI의 투명성

 

 

• AI의 투명성: AI가 의사결정·예측을 내리는 과정을 이해하고 추적할 수 있는 능력
• 공정성과 정확성 보장
• 또한 정당화 가능성을 보장

해석 가능성과 책임성

 

• 해석 가능성: AI가 내린 결정의 원인을 사람이 이해할 수 있는 정도
• 의료 등 고위험 분야에서 중요
• 책임성: AI의 행위와 결정에 대한 책임을 부여하는 것

AI 시스템에 대한 신뢰 구축

• 사람들은 새로운 자동화 솔루션을 불신하는 경향이 있습니다
• 이해가 신뢰를 높입니다
• 인간과 기술의 관계

XAI가 중요한 이유

XAI는 AI 시스템을 다음과 같게 합니다:

• 효과적이고 정당화 가능
• 명확하고 이해하기 쉬움
• 신뢰와 공정성 촉진
• 인간과 기술의 관계를 강화

러치 훈련합니다!

설명 가능한 인공지능(XAI) 개념