AI 위험 평가

AI Strategy

Vidhi Chugh

AI strategist and ethicist

윤리적 가이드레일

 

• UNESCO
  • 가이드레일 필요
  • 편향 및 차별 등 위험 예방
  • 기본 인권 보호

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

AI 위험

 

• 미국 국립표준기술연구소(NIST)

  

 

• 발생 확률
• 결과의 심각성

¹ https://www.nist.gov/artificial-intelligence

데이터 위험

• 데이터 개인정보 보호
  • 민감 정보

• 데이터 편향
  • 사회적 편향 재생산  

AI 오용 사례

 

• 성별 편향

 

• 인종 차별

데이터 개인정보 침해

• GDPR 위반 시 고액 벌금
• 데이터 불법 처리
• 안면 인식을 위한 이미지 무단 수집

 

비즈니스 영향

법적 피해

비즈니스 영향

법적·평판 피해

비즈니스 영향

법적·평판·재정적 피해

윤리 프레임워크

윤리 프레임워크

윤리 프레임워크

위험 평가의 핵심 요소

                개인정보 보호

                공정성

             투명성

             책임성

규정 및 컴플라이언스

• AI 프로젝트 생명주기

• 규정 및 컴플라이언스
  • 책임성에는 거버넌스 필요
  • 역할 및 책임 정의
  • 데이터 개인정보 보호 규정 준수
  • 사용자 동의 확보 및 데이터 익명화

데이터 수집 및 준비

평가

• 내부 확보 또는 외부 조달?
• 개인 식별 정보(PII) 등 민감 정보 포함 여부?
• 대표성 있는 모집단 여부?

완화

• 데이터 무결성 프로세스 수립
• 식별자 암호화, 합성 데이터 생성
• 균형 잡힌 데이터 구축

모델 개발 및 평가

• 모델 결과 설명
  • 설명 및 편향 식별
  • 범주 간 공정한 처리

모델 배포 및 모니터링

 

• 영향 정도

• 완화 전략 수립

 

 

• 의료·금융 분야의 높은 비용

• 모델 동작 재조정

 

연습해 봅시다!

AI Strategy