LLM 훈련의 기본 구성 요소

대형 언어 모델(LLM)의 개념

Vidhi Chugh

AI strategist and ethicist

지금 우리는 어디쯤?

Image showing learning progress as Pre-training

대형 언어 모델(LLM)의 개념

생성형 사전 학습

  • 생성적 사전 학습을 사용하여 학습됨

    • 텍스트 토큰의 입력 데이터
    • 데이터 세트 내의 토큰을 예측하도록 학습됨
  • 유형:
    • 다음 단어 예측
    • 마스킹 언어 모델링
대형 언어 모델(LLM)의 개념

다음 단어 예측

  • 지도 학습 기법
    • 입력-출력 쌍으로 학습된 모델
  • 다음 단어를 예측하고 일관성 있는 텍스트를 생성
  • 단어들 사이의 의존성을 포착
  • 학습 데이터
    • 입력 및 출력 예제 쌍 예시

Auto-suggestion by a search engine

대형 언어 모델(LLM)의 개념

단어 예측을 위한 학습 데이터

입력

The quick brown

The quick brown fox

The quick brown fox jumps

The quick brown fox jumps over

The quick brown fox jumps over the

The quick brown fox jumps over the lazy

The quick brown fox jumps over the lazy dog.

출력

fox

jumps

over

the

lazy

dog

대형 언어 모델(LLM)의 개념

어떤 단어가 피자와 더 관련이 있을까?

  • 더 많은 예시 = 더 나은 예측
  • 예시:
    • 나는 피자를 _ _ _ _ _ _ {{2}}와(과) 함께 먹는 것을 좋아해
  • 치즈는 다른 어떤 것보다 더 피자와 관련이 있음

Probabilities of different words association with the word "Pizza"

대형 언어 모델(LLM)의 개념

마스킹 언어 모델링

  • 선택된 단어 {{1}}를 숨김

  • 학습된 모델이 마스킹된 단어 {{1}}을(를) 예측

  • 원본 텍스트: "The quick brown fox jumps over the lazy dog."

  • 마스킹된 텍스트: "The quick [MASK] fox jumps over the lazy dog."

  • 목표: 누락된 단어 {{3}} 예측

  • 학습 데이터에서 배운 것을 기반으로 함

대형 언어 모델(LLM)의 개념

연습해봅시다!

대형 언어 모델(LLM)의 개념

Preparing Video For Download...