데이터 윤리와 AI 윤리

데이터 윤리 입문

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

AI란?

데이터 입력과 모델 결정을 통한 AI 일러스트.

  • AI는 알고리즘과 견고한 데이터로 문제를 풉니다
  • 강력한 AI는 대규모 데이터셋을 사용합니다
  • 잠재력은 크지만 양날의 검, 윤리 고려 필요
데이터 윤리 입문

데이터는 AI의 연료

요리 비유로 본 AI와 데이터의 중요성 일러스트.

  • AI 모델은 방대한 데이터가 필요, 노력의 대부분이 데이터에 집중
  • 나쁜 데이터는 나쁜 AI 결과로 이어짐
  • AI 윤리는 데이터 윤리보다 범위가 넓음, 유사점과 차이 이해가 중요
1 사진 출처: Andrew Ng의 웨비나, MLOps: From Model-centric to Data-centric AI
데이터 윤리 입문

좋은 점과 놀라운 점

음성 비서 스피커, ChatGPT 화면, 넷플릭스 홈의 콜라주.

  • 음성 비서, 대화형 AI
  • 영화 추천

성장 단계가 다른 두 종양이 보이는 유방 X선 이미지

  • 선한 목적의 AI
  • 암 조기 진단
  • 정밀 농업: 물·농약 사용 절감
데이터 윤리 입문

나쁜 점과 어두운 면

AI 알고리즘 차별에 대한 뉴스 스크린샷 콜라주

  • 채용, 의료 접근, 공정 재판에서의 차별
  • 원인: 편향된 데이터, 복잡·블랙박스 모델, 설명 부족
  • AI 윤리는 데이터 윤리를 넘어섬
데이터 윤리 입문

AI 윤리 딜레마

AI 윤리는 데이터 윤리를 넘어섭니다

  • AI 의사결정의 결과:
    • 신용/대출 접근
    • 채용
  • AI 차별
  • AI/로봇의 일자리 대체
  • 전쟁에서 로봇/드론이 인명 피해를 줄일까?
  • 인간다움이란 무엇인가?
  • 도덕성을 AI에 코딩할 수 있는가?

산을 배경으로 서로 반대 방향을 가리키는 도로 표지판 사진.

1 사진 출처: unsplash.com
데이터 윤리 입문

AI는 어떻게 결정해야 하나요?

  • 자율주행차 급제동 실패
  • 직진 또는 회피
  • 직진 시 여성, 남성, 노년 여성 사망
  • 회피 시 젊은 여성과 어린이 둘 사망
  • 누구의 책임인가?

자율주행차의 윤리적 딜레마 일러스트

1 https://moralmachine.mit.edu/
데이터 윤리 입문

AI 윤리 지침 한눈에 보기

AI 윤리 지침을 만드는 기관 다수

  • 인간 주체성 및 감독
  • 기술적 견고성과 안전
  • 프라이버시와 데이터 거버넌스
  • 투명성
  • 다양성, 비차별, 공정성
  • 환경·사회적 복지
  • 책임성

AlgorithmWatch의 AI 윤리 지침 인벤토리 이미지.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
데이터 윤리 입문

데이터의 공통 영역

  • 프라이버시, 보안, 데이터 보호
  • 편향과 공정성
  • 투명성
  • 책임성

데이터 윤리와 AI 윤리의 교집합 일러스트

데이터 윤리 입문

연습해 봅시다!

데이터 윤리 입문

Preparing Video For Download...