윤리적 그리고 환경적 우려 사항

대형 언어 모델(LLM)의 개념

Vidhi Chugh

AI strategist and ethicist

윤리적 문제

  • 투명성 위험:

Transparency risk

대형 언어 모델(LLM)의 개념

윤리적 문제

  • 투명성 위험
  • 책임성 위험 -

Transparency risk and accountability

대형 언어 모델(LLM)의 개념

윤리적 문제

  • 투명성 위험

  • 책임성 위험

  • 정보 위험

All three ethical concerns: transparency, accountability, info hazards

대형 언어 모델(LLM)의 개념

투명성 위험

  • 출력의 이해가 어려움
  • 문제 식별이 어려움
    • 편향성
    • 오류
    • 오용
  • 빈 행 1
  • 예시: 질병 결과를 예측하는 데 사용된 추론

Bias, errors or misuse of LLM generated output

대형 언어 모델(LLM)의 개념

책임성 위험

  • LLM의 행동에 대한 책임

책임의 소재는 누구인가?

  • 부정확하고 해로운 조언
  • 모델 개발자 vs 회사?
  • 규칙 없는 게임
    • 투명성 없음:
    • 책임성 없음:

LLM을 배포하는 개발자 또는 주체의 책임

1 Freepik
대형 언어 모델(LLM)의 개념

정보 위험

Information hazards 유해한 정보의 확산

  • 유해 콘텐츠 생성
  • 허위 정보 확산
  • 악의적 사용
  • 유해성
대형 언어 모델(LLM)의 개념

정보 위험

  • 유해 콘텐츠 생성
  • 유해, 모욕적, 부적절
  • 프롬프트 또는 편향된 학습 데이터
  • 예시: {{3}}
    • 괴롭힘 vs. 우호적인 학교 환경
    • 불안함과 해로움

  • 허위 정보 확산

  • 모든 주제에 대한 텍스트 생성

그러나, 검증 없음!

  • 예시: {{6}}
    • "살을 빼려면 어떤 식단이 좋을까?"
    • 근거 없는 식단 계획
대형 언어 모델(LLM)의 개념

정보 위험

  • 악의적 사용

  • 악의적인 행위자들이 LLM을 악용

  • 기만적인 콘텐츠 생성
  • 예시: {{3}}
    • 조작된 뉴스
    • 여론을 조종하고 불안을 야기

유해성

  • 부적절한 콘텐츠
  • 학습 또는 조작된 프롬프트로부터 유발
  • 예시: {{6}}
    • 둔감한 반응
    • 고정관념
대형 언어 모델(LLM)의 개념

환경적 문제

  • LLM의 생태 발자국
  • 학습에 막대한 에너지 소모
  • 탄소 배출로 인한 영향

Cutting down carbon emissions

1 Freepik
대형 언어 모델(LLM)의 개념

냉각에도 전기가 필요합니다!

  • 많은 열 발생으로 인해 냉각 필요
  • 수천 대의 노트북이 과열되는 상황을 상상해보기
    • 복잡한 냉각 시스템 필요
    • 추가 환경 부담
  • 비용과 이점의 균형 맞추기
    • 재생 에너지 사용
    • 에너지 효율적인 기술

환경 비용과 기술 혁신의 균형을 보여주는 이미지

1 Freepik
대형 언어 모델(LLM)의 개념

연습해봅시다!

대형 언어 모델(LLM)의 개념

Preparing Video For Download...