AI의 외부 위험

AI Security와 Risk Management

Angeline Corvaglia

Founder and Digital Transformation Expert

내부 위험

설계 또는 데이터 내

외부 위험

외부 행위자

• 모델 조작

 

• 다양한 측면을 표적

일반적인 외부 위험

• 적대적 입력 공격
• 데이터 손상과 포이즈닝
• 모델 탈취와 인버전
• 인프라 공격
• 공급망 공격

적대적 입력 공격

• 추론 단계(새 데이터 처리 시)에 영향
• 의사결정에 영향

예시

• 이미지를 약간 변형
• 오분류 유도

데이터 손상과 포이즈닝

• 학습 단계에 영향
• 학습 무결성을 겨냥

예시

• 가짜 상품 리뷰
• 이커머스 추천 시스템에 영향

모델 탈취와 인버전

• 민감 정보를 노림
• 모델 자체를 악용

예시

• 조작된 입력으로 학습에 쓰인 개인 정보를 추출

인프라 공격

• 물리·가상 환경을 표적
• 인프라를 공격

예시

• 요청으로 AI 서버를 폭주시켜 접근 불가하게 함

공급망 공격

• 구성요소·라이브러리를 침해
• AI 모델의 빌딩 블록을 악용

예시

• 널리 쓰이는 라이브러리에 취약점 주입

보안 모범 사례

• 정기 보안 감사
• 데이터 검증 및 정화
• 강력한 접근 제어
• 민감 데이터 암호화
• 데이터 익명화

추가 모범 사례

• 지속적 모니터링
• 신뢰할 수 있는 도구 사용
• 도구 정기 업데이트
• 지속적 교육

빠르게 진화하는 위험

• 지속적 적응
• 지속적 학습
• 선제적 위험 관리
• 경계 유지

연습해 봅시다!

AI Security와 Risk Management