해를 끼치지 않는 것을 넘어
데이터 윤리 입문
Shalini Kurapati, PhD
Co-founder and CEO, Clearbox AI
합법인가, 윤리적인가?
1 Icon made by Freepik from www.flaticon.com
과거의 교훈
헬라(HeLa) 세포
- 불멸화된 인간 세포, 암 연구 발전에 핵심적
- 헨리에타 랙스의 생검에서 동의 없이 채취
- 프라이버시·존엄·존중 등 윤리 문제
터스키기 매독 연구
- 치료하지 않은 매독의 영향 연구, 1932–1972
- 아프리카계 미국인 대상, 충분한 고지 없음, 치료 미제공
- 치료 가능했음에도 100명+ 사망
윤리를 이끄는 원칙
- 해를 끼치지 말 것: 개인 위험 최소화
- 선행(베네피센스): 사회와 타자에 대한 이익 극대화
- 존중·자율·대리권: 동의, 프라이버시, 정보, 통제, 주체성
- 정의: 합법성, 공정성, 비차별
- IEEE, ACM: 데이터의 책임 있는 사용과 오용 방지 명시
1 Icon made by Freepik from www.flaticon.com 2 https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/index.html 3 http://ethics.acm.org/code-of-ethics/ 4 https://www.ieee.org/about/corporate/governance/p7-8.html
데이터 윤리: 오래된 문제의 새 포장
페이스북의 감정 전염 연구
- 데이터 과학자들이 70만 명 뉴스피드를 조정해 행동에 영향
- 사용자에게 연구 목적·데이터 수집 의도 미고지
구글 프로젝트 나이팅게일
- 구글의 민감정보 처리 논란
- 환자 동의·의사 인지 없이 대규모 의료데이터 수집
1 https://www.theatlantic.com/technology/archive/2014/06/everything-we-know-about-facebooks-secret-mood-manipulation-experiment/373648/ https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7059004/
법에 담긴 데이터 윤리
- GDPR, CCPA 등 데이터 보호법은 핵심 윤리 원칙을 반영
- 프라이버시, 보안, 투명성, 사전동의, 비차별, 책무성
- 권고가 아닌 강제 규범
- GDPR 벌금
- 2천만 유로 또는 전세계 매출의 4%
1 Icon made by Leremy from www.flaticon.com
데이터 윤리의 비즈니스 가치
컴플라이언스와 평판
- 허술한 데이터 관행에 대한 제재: FTC, 이탈리아 DPA
- 높은 윤리 기준은 규정 준수 제고
- 고객·인재에게 매력적
책임 있는 혁신
- 정부·정책 입안자와 협력한 LinkedIn Economic Graph
- 고객·사회·기업 모두에 이익
1 https://economicgraph.linkedin.com/
