고위험 제공자 의무

EU AI Act 이해하기

Dan Nechita

Lead Technical Negotiator, EU AI Act

의도된 목적의 개념

• AI 법은 개발자와 사용자 의무를 균형 있게 조정
• “의도된 목적” 개념에 의존

의도된 목적의 개념

예시:

• 동물 식별 AI

 

의도된 목적의 개념

예시:

• 동물 식별 AI
• 생명보험 가격 책정에 사용
• 권장되지 않는 오용이며 효과도 낮음
• 시스템 개발 회사는 AI 법상 의무가 없음
  • 무위험 AI 시스템을 개발함
• 의무는 배포자에게 있음

 

의도된 목적의 개념

적합성 평가

 

고위험 AI 시스템 제공자는 안전과 준수를 보장하기 위해 “적합성 평가”를 수행·문서화해야 하며, 자체 평가가 가능합니다.

리스크 관리와 거버넌스

 

• 위험 식별·완화용 리스크 관리 체계를 갖추어야 함

 

• 데이터 거버넌스는 편향 없고 목적적합한 학습 데이터를 보장하고, 다양한 집단에 미치는 영향을 고려해야 함

 

문서화

• 준수·추적을 위한 상세 문서화와 기록 유지 확보
• 기능, 올바른 사용, 한계, 잠재적 오용에 관한 정보를 배포자에 제공
• 인간 감독을 보장하고 정확성·견고성·사이버보안을 구현

기타 의무

준수 보장

연습해 봅시다!

EU AI Act 이해하기