머신 러닝의 한계

머신 러닝 이해하기

Sara Billen

Curriculum Manager, DataCamp

데이터 품질

• 쓰레기가 들어가면 쓰레기가 나옵니다
• 출력 품질은 입력 품질에 따라 달라집니다

굉장히 잘못될 수 있는 예시

Amazon의 성별 편향 채용 도구

• 이력서 검토를 돕는 채용 소프트웨어
• 남성이 더 많이 채용되던 과거 데이터에서 학습했기 때문에 남성을 선호함
• 다음과 같은 이력서는 낮게 평가
  • '여성'이라는 단어 포함
  • 지원자가 여성임을 암시

굉장히 잘못될 수 있는 예시

Microsoft의 AI 챗봇

주의

• 모델을 맹신하지 마세요
• 인식이 핵심입니다
• 데이터에 주의하세요

$$

머신 러닝 모델은 제공하는 데이터에 따라 성능이 결정됩니다

품질 보증

• 고품질 데이터 요구 사항:
  • 데이터 분석
  • 이상치 검토
  • 분야 전문성
  • 문서화

설명 가능성

설명 가능성

• 신뢰성, 명확성, 이해도를 높이기 위한 투명성
• 사용 사례: 비즈니스 도입, 규제 감독, 편향 최소화

설명 가능한 AI

블랙박스

• 딥러닝
• '무엇?'에 더 적합
• 매우 정확한 예측

설명 가능한 AI

• 전통적인 머신 러닝
• '왜?'에 더 적합
• 사람이 이해할 수 있음

예시: 설명 가능한 AI

1. 예측: 환자는 당뇨병에 걸릴까요?
2. 추론: 왜 이런 일이 일어날까요

예시: 설명 가능한 AI

예측만: 이건 어떤 글자일까요?

연습해봅시다!

머신 러닝 이해하기