바이어스 완화

Responsible AI 데이터 관리

Maria Prokofieva

Lead ML engineer

학습 목표

• 프로젝트 전 주기의 전략
• 리샘플링과 리웨이팅
• 리레이블링과 민감 속성 제거
• 적대적 학습과 모델 재보정
• 사용자 행동
• 공정성 제약과 알고리즘 선택
• 기타 전략 존재

편향 다시 보기

• 체계적 오류 또는 편견
• 집단·개인에 대한 불공정 결과

¹ Image by Streamline HQ

프로젝트 전반의 편향

• 원시 데이터
• 사전 처리
• 모델링
• 배포 후

사전 처리의 편향

• 리샘플링
• 리웨이팅
• 리레이블링
• 민감 속성 제거

사전 처리 전략

• 리샘플링:
  • 균형 잡힌 클래스 분포로 조정
• 리웨이팅:
  • 데이터셋 크기는 유지하고 클래스 가중치로 편향 보정
• 리레이블링:
  • 정확한 타깃 표현을 위해 라벨 수정
• 민감 속성 제거:
  • 보호 속성 제거

모델링 단계의 편향

• 알고리즘에서 오는 편향
• 적대적 학습
• 공정성 제약
• 단순·견고·일반화 가능한 모델 선택

재무 상담가

• 지역 간 경제 격차로 인한 편향
• 편향 보정을 위한 적대적 학습
• 의사결정나무와 정규화 선형 모델

¹ Image by Streamline HQ

배포 후 및 사용 중 편향

• 모델 드리프트 방지를 위한 편향 모니터링
• 모델 재보정
• 애플리케이션 오사용

¹ Image by Streamline HQ

재무 상담가

모델 드리프트:

• 저대표 프리랜서 경제

잘못된 사용:

• 재무 정보 업데이트

¹ Image by Streamline HQ

연습해 봅시다!

Responsible AI 데이터 관리