책임 있는 데이터의 핵심 요소

Responsible AI 데이터 관리

Maria Prokofieva

Lead ML Engineer

책임 있는 데이터 관리

• 윤리적 데이터 관리
• 기술 지표로 모델 평가
• 책임 있는 AI

이 강의에서 다룰 내용

• 책임 있는 AI의 요소와 지표 소개
• 개념의 실제 적용
• 규제와 허가 개요
• 데이터 거버넌스와 수집
• 검증과 편향 완화

적법성

• 법령 준수
• 데이터의 적법한 수집·처리·사용 보장
• 관련 법·규정 예:
  • 데이터 보호법
  • 인권법
  • 이해관계자 대상 윤리 규정
  • 관할·국가에 따라 상이할 수 있음

적용 범위를 반드시 확인하세요!

공정성

• 알고리즘·데이터 관행이 불평등을 초래하지 않음
• 모든 이를 차별 없이 공정하게 대함

투명성과 책임성

• 데이터 사용 방식
• 모델 개발 방식
• 의사결정 방식
• AI 설명
• 이해관계자 신뢰 구축

다양성과 포용

• 데이터 다양성
• 다양한 관점과 경험
• 편향 완화의 핵심

프라이버시와 보안

• 개인·민감정보 보호
• 개인 권리 존중 및 보장
• 무단 접근으로부터 데이터·모델 보호

아마존 AI 채용 도구

• 아마존: 2015–2017
• 채용 자동화
• 지원자 평가에 AI 사용
• 논란으로 프로젝트 중단

¹ Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/

AI 모델의 과제

무슨 문제가 있었나?

• 성중립적이지 않음
• 불균형한 학습 데이터
• AI 평가에 기술 지표만 사용

연습해 봅시다!

Responsible AI 데이터 관리