GPT 모델과 LLM 학습

중급 ChatGPT

Alex Banks

Founder & Educator

GPT의 탄생

왼쪽의 놀란 남성이 오른쪽으로 갈수록 커지는 보라색 막대 세 개(GPT-1, GPT-2, GPT-3)를 보는 그림으로, 각 버전의 규모 성장을 나타냄

중급 ChatGPT

GPT의 탄생

  타원형(뉴런)을 향해 서 있는 남성의 그림

중급 ChatGPT

GPT 분해해서 보기

혼란스러운 남성 위에 물음표가 있고, 오른쪽에는 'Generative Pre-trained Transformer' 텍스트와 'GPT'로 가리키는 화살표(굵게 밑줄) 그림

중급 ChatGPT

 

남성이 연필로 공책에 쓰고 있고, 왼쪽에 'Generative'라는 단어가 보이는 그림

중급 ChatGPT

 

  남성이 책과 전자기기를 끌며 달리는 그림, 오른쪽에 'Pre-trained'라는 단어

중급 ChatGPT

  한 남성이 한 상태에서 다른 상태로 변하는 그림, 위에 'Transformer'라는 단어가 있음

중급 ChatGPT

 

노트북을 든 남성이 ChatGPT 로고 옆에 앉아 있는 그림

중급 ChatGPT

LLM은 어떻게 학습하나요?

  책을 읽는 여성과 옆에서 함께 책을 보는 큰 로봇의 그림

중급 ChatGPT

1단계 - 사전학습(Pre-training)

대량의 저품질 인터넷 데이터 여성이 클립보드를 들고 있고, GPT 모델의 사전학습 과정과 데이터를 나타내는 차트와 표가 있는 그림

중급 ChatGPT

2단계 - 미세조정(Fine-tuning)

소량의 고품질 대화 데이터 로봇 옆에 서 있는 여성과 예시 대화 데이터가 보이는 그림

중급 ChatGPT

3단계 - RLHF

RLHF = 인간 피드백을 통한 강화학습

두 여성이 물음표 카드와 함께 서 있고, 머리 위 생각 구름에 '옵션 A', '옵션 B'가 적힌 그림

중급 ChatGPT

비교 라벨 제작에서 AI의 역할

여성이 로봇 옆에서 엄지척을 하고 있고, 화면에는 AI에 관한 하이쿠 3개가 표시됨. 여성과 로봇의 생각 구름에 '이거다!'가 적힘

중급 ChatGPT

비교 라벨 제작에서 AI의 역할

라벨링은 인간-기계 협업입니다

 

사람 아이콘과 로봇 아이콘이 슬라이더로 연결되고, 여성과 큰 로봇이 조화롭게 서 있는 그림

중급 ChatGPT

연습해 봅시다!

중급 ChatGPT

Preparing Video For Download...