모델 위험

AI Security와 Risk Management

Angeline Corvaglia

Founder and Digital Transformation Expert

라이프사이클 전반의 모니터링

개발 중

• 공정하고 정확한 데이터
• 효과적으로 학습
• 결함 있는 시스템 배포의 위험

배포 후

• 시간이 지나며 모델이 변화(드리프트) 가능
• 편향 또는 부정확한 출력 초래

일곱 가지 일반적 모델 위험

 

 

• 모델 투명성과 해석 가능성 부족
• 편향
• 환각
• 모델 드리프트
• 과적합
• 과소적합
• 데이터 누수

 

 

투명성

• AI 모델이 어떻게 결정하는가

해석 가능성

• 모델이 왜 특정 출력을 내는가

의료·금융 등 민감 분야에서는

• 의사결정 과정
• 결정 자체만큼 중요

편향

불공정한 선호나 편견

• 편향된 학습 데이터
• 알고리즘
• 대표성 부족 또는 결함 있는 데이터
• 인간의 가정

공정하고 윤리적인 AI를 위해 탐지·완화

환각(Hallucination)

다양한 이유로 발생:

• 학습 데이터 부족
• 잘못된 가정
• 데이터의 편향

모델 드리프트

이전에는 정확했으나

• 관련성 상실
• 정확도 저하

모델이 혼란스러워짐:

• 다른 데이터
• 데이터 내 패턴 변화

효율적이고 정확한 학습

과적합

• 세부에 과도하게 학습

과소적합

• 너무 단순하여 학습 부족

데이터 누수

• 학습에 외부 데이터 포함

설명 가능한 AI (XAI)

 

• 방법과 기술
• 사람이 이해 가능한 결정
• 모델 출력의 근거 설명

더 견고하고 공정하며 안전한 AI 시스템

 

• 보안 조치
• 책임 있는 개발
• 장기적 영향

모두에게 유익해야 함

 

Ayo berlatih!

AI Security와 Risk Management