RAI를 위한 추가 도구

Responsible AI 실무

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

위험 vs. 영향 평가

 

위험(RISK)

  • 잠재 문제 예측
  • 부정적 영향

 

영향(Impact)

  • 잠재성과 위험 예측
  • 긍정/부정적 영향
Responsible AI 실무

위험 평가는 다음에 도움을 줍니다:

  • 해로운 영향 사전 예측
  • 선제적 완화

 

예시:

  • NIST 인공지능 위험관리 프레임워크(AI RMF) 및 AI RMF 플레이북
  • 뉴욕시 지방법 144호
  • 프랑스 CNIL
  • OECD AI 위험 평가 프레임워크

AI 위험 평가의 보편적 접근은 아직 없습니다.

Responsible AI 실무

AI 영향 평가는 조직이 다음을 수행하도록 돕습니다:

  • 광범위한 효과 파악
  • 인간 중심 가치와의 정렬 보장
  • 신뢰와 투명성 제고

예시:

  • 네덜란드 AI 영향 평가(AIIA)
  • Microsoft 책임 있는 AI 영향 평가 표준
  • IBM® watsonx
  • 인권 영향 평가(HRIA)
  • Responsible AI Institute RAISE 벤치마크
Responsible AI 실무

일반적 함정

  • 윤리적 맹점: 암묵적 편향
  • 블루워싱/에틱스 워싱: 있는 척하기
  • AI 쇼핑: 윤리보다 비즈니스 우선
  • 섀도 AI: 승인·감독 없음

AI 영향 평가를 위험 평가와 함께 통합하면:

  • AI 시스템을 포괄적으로 평가합니다
  • 피해를 피하고 사회적 선에 기여합니다

어둠 속 맹점처럼 보이는 눈 이미지

1 DALL·E
Responsible AI 실무

연습해 봅시다!

Responsible AI 실무

Preparing Video For Download...