AI 위험 평가 프레임워크

AI Security와 Risk Management

Angeline Corvaglia

Founder and Digital Transformation Expert

정식 위험 평가

• 포함되는 내용
• 왜 중요한지
• 어떻게 노력을 이끄는지

지속적인 내부 점검과 견제와 결합

어떤 이점이 있나요?

• 잠재적 위험의 기준선 이해
• 종합적 관점
• 상황 변화에 따른 적응성
• 법률·규제 준수

위험 평가의 요소

1. 가능한 위험 식별
2. 위험 분석
3. 심각도와 위험 수용도 평가
4. 위험 관리·감소·제거 전략 수립

EU AI 법

위험 평가는 핵심입니다

• 허용 불가 위험
• 고 위험
• 제한적 위험
• 최소 위험

고위험 AI 시스템의 경우

• 위험 평가
• 위험 관리 시스템

내부 점검과 견제

• 신규 위험 또는 예기치 않은 동작 포착
• 위험 평가 기반으로 설정
• 조기 경보 역할

예시:

• 정기적 편향 테스트
• 성능 저하

체크리스트 채우기가 전부가 아닙니다

• 위험 평가는 경로를 제시합니다

• 내부 점검과 견제는 가드레일 역할을 합니다

효과적인 위험 관리

• 지속적 모니터링
• 정식 통제로 지원

Ayo berlatih!

AI Security와 Risk Management