위험과 기회

GDPR 이해하기

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

AI와 빅데이터의 거대한 기회

세계경제포럼 블로그 제목 스크린샷: 2030년까지 AI의 세계 경제 기여 예측.

21세기의 파괴적 기술
데이터 가용성과 연산 자원 기반 혁신
경쟁 우위

선을 위한 AI

UN의 지속가능발전목표(SDGs)를 AI 도입으로 가속화한다는 ‘AI for Good Gateway’ 일러스트.

경제적 이익뿐 아니라, SDGs를 위한 AI for Good
기후변화, 헬스케어, 교육 접근성
위험·이점을 인지하고 GDPR 준수 선택

¹ https://aiforgood.itu.int/

GDPR 제재: 차별적 AI

이탈리아 감독당국, 알고리즘 차별로 배달 앱 제재 이탈리아 감독당국 로고 일러스트.

배달사: 라이더 프로파일링, 주문 배정 차별
GDPR 미준수로 260만 유로 과징금
데이터 최소화·투명성·데이터 품질, 자동화 의사결정·프로파일링의 편향·차별

¹ https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en

데이터 보호 그 너머

노출 위험

개인정보 노출
집계 데이터에서도 가능
DPIA: 잔존 위험
타당한 설명 부재

사례

AI 의료영상
인종(고민감)을 예측
프라이버시·편향 이슈

¹ Gichoya, Judy Wawira, et al. AI recognition of patient race in medical imaging: a modelling study, The Lancet Digital Health, Volume 4, Issue 6, 2022,

균형 잡기

AI는 GDPR 원칙을 따라야 함
특별한 보호장치
민감정보 등 특별범주 데이터
자동화된 의사결정·프로파일링 제한

예외:
- 계약 이행
- 공익
- 명시적 동의
GDPR은 AI와 양립 가능하나, 전부를 다루진 않음
AI 법안 예정

Let's practice!

GDPR 이해하기