코스 소개

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

David Cecchini

Data Scientist

텍스트 데이터는 온라인에 풍부합니다

인터넷에 있는 뉴스 기사, 대형 인터넷 기업 등 텍스트 데이터 예시를 보여줍니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

텍스트 데이터에 대한 머신 러닝 응용

네 가지 응용:

  • 감성 분석
  • 다중 클래스 분류
  • 텍스트 생성
  • 신경 기계 번역
Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

감성 분석

웃는 이모지와 찡그린 이모지를 보여줍니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

다중 클래스 분류

영화 장르(공상과학, 로맨스 등) 클래스 예시를 보여줍니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

텍스트 생성

대화형 앱의 기계 생성 답변 예시. 연결로부터 질의를 받으면 앱이 답변을 제안합니다.

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

신경 기계 번역

포르투갈어 문장 "Vamos jogar futebol esse domingo?"를 영어 "Let's play soccer this Sunday?"로 번역한 예시를 보여줍니다

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

순환 신경망(RNN)

펼친 RNN 표현을 보여주며, 각 단어 사이의 가중치가 공유됨을 강조합니다. 단어를 순서대로 입력하고 마지막에서 최종 클래스를 예측합니다.

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

시퀀스-투-시퀀스 모델

다대일: 분류

분류용 RNN 아키텍처. 마지막 단어에서만 예측합니다.

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

시퀀스-투-시퀀스 모델

다대다: 텍스트 생성

텍스트 생성 아키텍처. 입력 부분은 마지막 단계에서만 예측하고, 생성 부분은 각 단계에서 예측하며, 앞선 출력을 다음 입력으로 사용합니다.

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

시퀀스-투-시퀀스 모델

다대다: 신경 기계 번역

신경 기계 번역 아키텍처. 입력 언어의 인코더와 출력 언어의 디코더로 구성됩니다. 인코더는 입력 언어 모델을, 디코더는 출력 언어 모델을 학습합니다. 인코더의 최종 상태가 디코더로 전달되며, 디코더는 다른 입력이 없습니다.

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

시퀀스-투-시퀀스 모델

다대다: 언어 모델

언어 모델 아키텍처. 각 단계에서 다음 단어를 예측합니다. 학습 시 매 단계 예측하며, 다음 단어를 맞추도록 가중치를 조정합니다.

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

연습해 봅시다!

Keras로 배우는 언어 모델링을 위한 순환 신경망(RNN)

Preparing Video For Download...