사회적 편향 평가 및 완화

생성형 AI 개념

Daniel Tedesco

Data Lead, Google

사회적 편향이란 무엇을 의미할까요?

$$ $$

생성형 AI의 체계적 불공정성

  • 심각한 사회적 파급 효과
  • 공정성은 주관적일 수 있음
  • 널리 공유되는 가치에 집중

$$ $$

취업 면접

생성형 AI 개념

편향이 나타나는 곳

  • 학습 데이터
  • 모델 자체
  • 모델의 사용 방식

균형이 맞지 않는 저울

생성형 AI 개념

데이터의 편향

학습 데이터 중 편향된 정보 또는 대표성이 부족한 정보

두 개의 학습 퍼널. 하나는 보라색 사각형이 학습 과정에 들어가고, 보라색 사각형만 생성되는 것을 보여줍니다. 다른 하나는 다양한 색상의 도형이 학습 과정에 들어가고, 다양한 도형이 생성되는 모습을 보여줍니다.

생성형 AI 개념

모델의 편향

편향된 결과를 낳는 목표 추구

유엔에서 연설하는 사실적인 로봇 정치가

생성형 AI 개념

사용 중 편향

AI의 잘못된 활용 또는 악의적인 활용

큰 "FAKE" 레이블이 표시된 동영상이 있는 노트북 화면

생성형 AI 개념

데이터와 모델의 편향 파악

  • 표현 분석: 모델이 서로 다른 집단을 어떻게 지칭하는지 비교
  • 공정성 지표: 집단 간 동등한 대우·기회·정확도 측면에서 모델 평가
  • 인적 검토: 사람이 모델 출력을 검토하여 편향 파악
생성형 AI 개념

데이터와 모델의 편향 완화

  • 데이터 수집 다변화
  • 다양한 데이터를 우선순위에 두도록 모델 조정
  • 대립하는 학습 방식
  • 지속적인 개선

다양한 색상의 도형 모음과 그중 선택된 대표 샘플

생성형 AI 개념

연습해 봅시다!

생성형 AI 개념

Preparing Video For Download...