생성형 AI의 책임감 있는 사용

생성형 AI 개념

Daniel Tedesco

Data Lead, Google

선거 전날

가짜 뉴스 헤드라인 모음

생성형 AI 개념

악용 유형

  • 딥페이크
  • 허위 정보 캠페인
  • AI 기반 해킹

패딩 재킷을 입은 교황의 AI 생성 이미지

1 파블로 자비에르
생성형 AI 개념

탐지 및 예방

핵심 사용 원칙

  • 인간 개입
  • 피해 예방
  • 지속적 모니터링

탐지 및 예방 시점

AI 사용 전반의 흐름도: 접근, 프롬프트, 응답, 활용, 소통 및 피드백

생성형 AI 개념

접근

AI는 의도치 않게 범죄 집단의 합법적 활동을 도울 수 있음

  • 악의적인 집단을 지원하지 않도록 주의
  • 고객 확인 절차(KYC)
    • 사용자 신원 확인

불길해 보이는 인물이 보는 이를 조용히 시키는 모습

생성형 AI 개념

프롬프트와 응답

프롬프트 관리

  • 웹사이트 또는 채팅 그룹 관리와 유사
  • 탈옥 프롬프트는 여전히 개발자 가이드라인 우회 가능

응답 관리

  • 사용자에게 표시하기 전에 응답 선별 및 필터링
생성형 AI 개념

활용

악의적 행위자는 겉보기엔 무해한 응답을 불법 활동 또는 비윤리적 활동에 활용할 수 있음

  • 보이지 않는 워터마크로 콘텐츠 출처 식별 가능
  • 사법 기관의 개입이 필요할 수 있음
생성형 AI 개념

소통 및 피드백

  • 명확한 사용 지침
  • 피드백 과정
    • 사용자 연구 및 이해관계자 간담회
    • 시민사회 단체와의 협력
    • 제품 내 피드백 기회

안전벨트를 매고 있는 한 운전자

생성형 AI 개념

연습해 봅시다!

생성형 AI 개념

Preparing Video For Download...