자동화된 의사결정과 프로파일링
GDPR 이해하기
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
제22조
- 공정성과 차별 금지 의무
- 제22조 - 프로파일링을 포함한 자동화 개별 의사결정
- 인간 개입 및 설명을 받을 권리
1 Image source: flaticon.com
프로파일링
- AI/머신러닝으로 대규모 데이터 처리, 행동 분석·예측
- 행동과 속성을 식별·연결
- 프로필 생성, 프로필 기반 행동 예측
- 예:
- 치료 성공 가능성
- 재범 위험
1 Information Commissioner's Office
프로파일링의 윤리적 우려
- 편향을 전파·강화할 수 있음
- 설계, 데이터, 고유한 복잡성/블랙박스 문제
- 성별·인종 차별
1 Image source: bbc.com, propublica.com, and techcrunch.com
유명한 프로파일링 사례
- 32만 명이 ‘학술 연구’용 온라인 성격 테스트 참여
- 이용자 친구의 개인정보 수집, 동의 없이 최대 5천만 명 데이터
- 성격/정치 성향 프로파일링, 태도 변화를 노린 타깃 광고
- 미국·영국 등 세계 여러 선거에서 활용
1 Image source: The Guardian
자동화된 의사결정
- 인간 개입 없이 자동화된 수단으로 내리는 결정
- 프로파일링이 수반될 수도, 아닐 수도 있음
- 모든 데이터 유형 포함: 설문, 위치, 프로파일링 등
- 예: 이력서 자동 선별
1 ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679
은행 사례
- 주택담보대출 자동 심사
- AI는 보통 예/아니오만 제시 → 설명과 인간 개입 필요
- 편향 방지, 결정 수정·개선을 위한 장치 마련
