AI 특유의 보안 위험

AI Security와 Risk Management

Angeline Corvaglia

Founder and Digital Transformation Specialist

리스크 관리의 중요성

• 혜택을 안전하고 책임감 있게 활용
• 보안에 대한 접근법 변화가 필요
• 전통적 보안만으로는 불충분

AI 도입의 영향을 양면 동전으로 생각해 보십시오:

• 잠재력
• 보안 위험

미묘하지만 위험한 리스크

• 편향
• 할루시네이션
• 데이터 포이즈닝
• 적대적 공격
• 민감정보 노출

채용 시스템의 AI 편향

1. 과거 데이터로 AI 학습
2. 과거 편향 반영
3. 편향 확대
4. 조직 신뢰 하락

온라인 쇼핑 플랫폼 조작

1. AI 추천 시스템이 있는 플랫폼
2. 허위 데이터 주입
3. AI가 비인기·유해 상품 추천
4. 다양한 잠재적 결과 발생

AI 편향

초고속 의사결정은 편향의 영향을 증폭

특정 집단을 부당하게 이익·피해

불균등 결과가 빠르게 확산

할루시네이션

• 부정확하거나 오해의 소지 있는 정보를 진실처럼 제시

초래 가능:

• 잘못된 의사결정
• 허위정보와 신뢰 하락

데이터 포이즈닝

훈련 데이터의 의도적 변조

AI가 빗나가도록 유도

• 오판 또는 오결정
• 중대한 파급효과

적대적 공격

오인하도록 하는 입력 제시

• 운영 중 발생
• 탐지가 어려움
• 무결성 훼손

민감정보 노출

훈련·운영에 대량 데이터 사용

보안 미흡 시 민감정보 노출 위험

관리를 위해 먼저 위험을 이해

선제적 위험 완화

• 위험 선제 파악
• AI 보안 생태계 이해
• AI 보안 미래 대비
• 보안 중심 문화 구축
• 모델·외부 위험 이해
• 조직 목표와 정렬

시작해 보겠습니다!

AI Security와 Risk Management