데이터 컴플라이언스

Responsible AI 데이터 관리

Maria Prokofieva

Lead ML engineer

컴플라이언스 미준수의 위험

 

• 법적 처벌
• 막대한 벌금
• 평판 훼손
• 피해와 오남용

데이터 소유자

• 법과 규정으로 정의
• 개인 또는 기관
• 사전 동의

사전 동의(Informed consent)

 

• 개인이 권한을 부여
• 개인은 소유권 유지

 

• 개발자는 수집·이용에 대해 투명해야 함

사전 동의 확보

• 동의서
• 체크박스
• 서명
• 옵트인·옵트아웃
• 변경 허용 메커니즘
• 수집·이용 전 확보
• 자발적·구체적이어야 함
• 개발자는 기록을 보관
• 데이터 최소화: 필요한 것만 수집

개인정보 보호와 보안

 

• 프로젝트 전 생애주기
• 암호화
• 접근 차단
• 데이터 익명화
• 문서화
• 모니터링 프로세스

조직 데이터

 

데이터 사용 계약(DUA):

• 정식 계약
• 약관 및 조건
• 당사자 간 데이터 이전
• 내용은 달라질 수 있음

 

AI 챗봇

• 두 명의 데이터 소유자
• 환자 기록, 개인 데이터, PHI 사용

 

• 챗봇이 동의 절차 시작
• 동의서 제시
• 자발적 동의
• 기록 보관

AI 챗봇

• 클리닉-개발자 간 DUA
• 각 당사자의 책임
• 사용, 보안, 감사, 접근, 공유
• 데이터 유출 통지
• 신속 대응
• 법률 전문가 검토
• 문서화

실습해 봅시다!

Responsible AI 데이터 관리