ChatGPT의 한계

ChatGPT 이해하기

James Chapman

Curriculum Manager, DataCamp

ChatGPT의 내부 구조

대규모 언어 모델에서 프롬프트와 응답의 관계를 보여주는 다이어그램.

ChatGPT 이해하기

LLM 이해하기

큰 블록 벽.

ChatGPT 이해하기

LLM 이해하기

큰 블록 벽과 틈에 조각 하나가 끼워지고 있는 미완성 벽.

ChatGPT 이해하기

LLM 이해하기

벽돌 벽.

ChatGPT 이해하기

LLM 이해하기

The building block wall has been labeled the 학습 데이터.

ChatGPT 이해하기

LLM 이해하기

언어 패턴을 식별하는 데 사용되는 알고리즘을 나타내는 네트워크 구조가 나타났습니다.

ChatGPT 이해하기

LLM 이해하기

기어와 전구가 순환 기호로 둘러싸여 있으며, 이는 모델을 미세 조정하는 데 필요한 반복적 프로세스를 나타냅니다.

ChatGPT 이해하기

LLM 이해하기

텍스트로 ChatGPT가 하는 일을 나타내기 위해 마네킹이 블록 벽을 쌓고 있습니다.

ChatGPT 이해하기

제한 사항 1 - 지식 컷오프

  • 특정 날짜까지의 데이터로 학습됨:
    • GPT 3.5: 2022년 1월
    • GPT 4: 2023년 4월
  • 이 날짜 이후의 사건에 대해서는 알지 못합니다

특정 날짜에서 멈추는 블록 벽.

ChatGPT 이해하기

제한 사항 2 - 학습 데이터 편향

  • ChatGPT는 다음과 같은 방대한 텍스트 데이터 세트에서 학습되었습니다.

    • 책
    • 기사
    • 웹사이트

  • 모델은 학습 데이터에서 편향을 학습할 수 있습니다

  • 응답에 편향을 줄 수 있습니다

모델이 자신이 본 데이터 세트에서 편향을 학습할 수 있음을 보여주는 아이콘.

ChatGPT 이해하기

제한 사항 3 - 맥락 추적

사용자와 ChatGPT 간의 대화로, 시간이 지남에 따라 맥락이 바뀌고 있습니다.

ChatGPT 이해하기

제한 사항 3 - 맥락 추적

사용자와 ChatGPT 간의 대화로, 시간이 지남에 따라 맥락이 바뀌는 모습.

ChatGPT 이해하기

제한 사항 3 - 맥락 추적

  • 초점이 이동하면 맥락을 파악하는 데 어려움을 겪습니다
  • 부정확하거나 관련 없는 결과를 초래할 수 있습니다
  • 팁: 한 가지 주제에만 집중해 대화합니다

사용자와 ChatGPT 간의 대화로, 시간이 지남에 따라 맥락이 바뀌는 모습.

ChatGPT 이해하기

제한 사항 4 - 환각

  • 모델이 자신 있게 부정확한 정보를 제공합니다
  • 모델의 지식이나 능력을 넘어서려할 때 자주 발생합니다

ChatGPT가 LinkedIn 프로필을 환각하는 예시.

1 https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
ChatGPT 이해하기

제한 사항 5 - 법적 및 윤리적 고려사항

  • 예시: 기존 아티스트의 스타일로 노래 만들기
    • 새 노래의 소유자는 누구인가요?

노트북 앞에 있는 사용자의 아이콘.

ChatGPT 이해하기

제한 사항 5 - 법적 및 윤리적 고려사항

  • 예시: 기존 아티스트의 스타일로 노래 만들기
    • 새 노래의 소유자는 누구인가요?

노래하는 음악가의 아이콘.

ChatGPT 이해하기

제한 사항 5 - 법적 및 윤리적 고려사항

  • 예시: 기존 아티스트의 스타일로 노래 만들기
    • 새 노래의 소유자는 누구인가요?
  • 법적으로 애매한 상황에 빠지기 쉽습니다
  • 소유권 및 개인정보 보호 → 챕터 2

기술 이해관계자의 아이콘.

ChatGPT 이해하기

연습해봅시다!

ChatGPT 이해하기

Preparing Video For Download...