AI 위험 식별

Responsible AI 실무

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

AI의 이해관계자

 

  • 개인
  • 집단
  • 국가
  • 사회

무지개색 손들이 원을 이룬 이미지

1 Midjourney
Responsible AI 실무

설계, 개발, 배포

 

AI 생애주기는 세 단계로 구성됩니다:

  • 설계
  • 개발
  • 배포

 

세 요소: 설계, 개발, 배포 다이어그램

Responsible AI 실무

설계

 

  • 목표 정의
  • 비즈니스 가치
  • 데이터 아키텍처 계획
  • 예산 영향 파악
  • 내부·외부 이해관계자 지원 확인

  세 요소(설계, 개발, 배포) 다이어그램으로, 설계가 상단에 있음

Responsible AI 실무

개발

 

  • 구축
  • 학습
  • 테스트

 

  • 과적합·과소적합 등 위험

  세 요소(설계, 개발, 배포) 다이어그램으로, 개발이 상단에 있음

Responsible AI 실무

배포

 

  • 운영 환경에 통합
  • 실시간 데이터 처리 시작
  • 모니터링
  • 개선
  • 적응

  세 요소(설계, 개발, 배포) 다이어그램으로, 배포가 상단에 있음

Responsible AI 실무

AI 위험 스펙트럼

  • 보안 및 운영 위험:

    • 환각(Hallucination)
    • 데이터 오염·변조
    • 데이터 유출·침해

  • 프라이버시 위험

  • 비즈니스 위험:

    1. 평판
    2. 재무

 

철저한 테스트, 윤리 기준, 규정 준수가 핵심입니다.

Responsible AI 실무

연습해 봅시다!

Responsible AI 실무

Preparing Video For Download...