알고리즘의 편향

데이터 편향 정복하기

Konstantinos Kattidis

Data Analytics Lead

AI와 데이터 편향

AI의 활용 예:

  • 개인화 추천
  • 경로 안내

 

알고리즘이 성별이나 인종 등 특정 집단에 대해 편향되면 어떻게 될까요?

AI 활용 사례

데이터 편향 정복하기

알고리즘 편향

알고리즘 편향

알고리즘 편향은 알고리즘이 체계적이고 반복적인 오류를 내어 한 집단을 다른 집단보다 유리하게 만들어 불공정한 결과를 초래할 때 발생합니다

  • 이는 알고리즘 개발·배포 중 나타날 수 있는 여러 유형의 편향을 포함합니다
데이터 편향 정복하기

학습 단계의 편향

  • 알고리즘 편향은 종종 데이터 수집의 편향에서 시작됩니다
  • 학습 데이터가 대표성이 없거나 편향되어 있으면, 알고리즘이 그 편향을 학습·강화할 수 있습니다
  • 예: 얼굴 인식 알고리즘에 다양한 집단의 충분한 대표성이 없는 경우

표본선정 편향

데이터 편향 정복하기

특성 선택의 편향

특성 선택 편향

  • 특성 선택 편향은 특정 특성을 선택하는 기준이 불공정하거나 차별적인 결과로 이어질 때 발생합니다
  • 예: 인종, 성별 등 보호 대상 특성
  • 예를 들어, 대출 승인 예측 알고리즘이 소득만을 유일한 요인으로 가정하는 경우
데이터 편향 정복하기

평가 편향

  • 알고리즘의 테스트 단계에서 대표성이 떨어지는 데이터셋을 사용하면 평가 편향이 발생할 수 있습니다
  • 예:
    • 영화 추천 알고리즘
    • 한 가지 장르로만 성능을 테스트함
    • 로맨스나 코미디 등 다른 장르에서는 잘 작동하지 않을 수 있음

평가 편향, 한 장르만 테스트

데이터 편향 정복하기

자동화 편향

MRI 진단 자동화

사람들이 자동화된 시스템에 지나치게 의존하는 경향

  • 예:
    • 의료 진단 시스템이 MRI 등 의료 영상을 분석함
    • 결과를 검토·확인 없이 신뢰하면 자동화 편향이 발생합니다
    • 이는 오진으로 이어질 수 있습니다
데이터 편향 정복하기

연습해 봅시다!

데이터 편향 정복하기

Preparing Video For Download...