책임 있는 AI의 과제

Responsible AI 데이터 관리

Maria Prokofieva

Lead ML Engineer

현장의 책임 있는 데이터 관리 실무

 

• 복잡함

 

• 상충관계 포함

 

• 전문적 판단 필요

일반적인 상충 관계

 

 

 

• 공정성과 프라이버시보다 이익 우선

• 테스트·보안보다 매출 우선

사전 학습 모델

• 비용 절감

• 시간·자원 절약

• 데이터 수집·학습 불필요

• 학습 데이터가 편향됐을 수 있음

• 투명성 부족

사전 학습 모델 사용

• 모델 출처에 대한 실사
• 좋은 평판
• 신뢰도
• 모델 문서 검토
• 공정성과 편향 추가 테스트

 

 

• 정확도 우선, 공정성 후순위
• 균형 잡힌 데이터에서도 발생

정확도 상충

• 특정 집단에 낮은 정확도
• 소수 집단의 데이터 품질·양 미반영
• 프라이버시는 정확도를 낮춤

강건성 상충

 

• 강건성 vs. 편향

• 강건성 vs. 공정성

전문가 윤리와 주의의무

• 윤리·행동 강령

• 국가·조직별 지침 상이

• 책임, 비유해성, 공정성

• 사용자 프라이버시·기밀성
• 사회에 긍정적 영향
• 높은 기준 유지
• 견고하고 안전한 시스템 개발
• 포용적·비차별적

 

¹ https://www.acm.org/code-of-ethics

Ayo berlatih!

Responsible AI 데이터 관리