데이터 편향, 어떻게 대응할까?

데이터 윤리 입문

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

편향이란?

편향된 판단 일러스트

데이터 윤리의 첫 주제
사람·집단·아이디어에 대한 선입견: 불공정
데이터 윤리의 편향 = 데이터 편향
과소·과대·오표상(왜곡)
편향된 데이터로 의사결정 시 피해 발생

¹ Icon made by noomtah from www.flaticon.com

언제든, 어디서든

데이터·라이프사이클 전 단계
데이터 수집
정제·준비·개발
라벨링

데이터 라이프사이클 단계별 편향이 편향된 알고리즘으로 이어지는 일러스트

데이터 특유의 편향

기술적/통계적 프로세스 편향
- 표본추출 편향: 대표성
- 측정 편향
- 자기보고 편향
- 라벨링 편향
인간·시스템 편향
- 성별
- 인종/소수집단
- 문화

왜곡된 객체와 실제 이미지의 대비 일러스트

¹ Icon made by Flowicon from www.flaticon.com

대표성이 중요합니다

조이가 흰색 마스크를 쓰고 있는 사진이 포함된 TED 강연 스크린샷

대표성 부족
안면인식: 흰 마스크에서 더 나은 결과
비누 디스펜서부터 의료 성과까지
추천: Coded Bias

¹ https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms

고정관념의 거울

남성의 흉부 압박감, 여성의 등 통증 등 심근경색 증상이 다르게 나타나는 일러스트

의학 연구·데이터는 역사적으로 백인 남성 중심
예: 심근경색 증상은 남녀가 다름
이 데이터로 진단 앱을 만들면?

¹ https://womeningh.org/

심각한 영향

남녀 심근경색 증상에 대한 의료 앱 진단 스크린샷

심근경색 증상: 남성은 응급, 여성은 공황으로 오진

너무 많고 계속 늘어납니다!

다양한 인지 편향 일러스트

¹ CC BY, John Manoogian III (JM3)

빙산의 일각

빙산의 꼭대기에 통계적 편향, 수면 아래에 인간·시스템 편향이 있는 일러스트

통계적 편향은 빙산의 일각
인간·시스템 편향: 태도·사회 변화 필요
편향 테스트·예방·완화, 피드백 수용

¹ Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology

연습해 봅시다!

데이터 윤리 입문