기계 번역 소개

Keras로 배우는 Machine Translation

Thushan Ganegedara

Data Scientist and Author

기계 번역

Hello 번역들

기계 번역

Google 아이콘이 있는 Hello 번역

강의 개요

1장 - 기계 번역 소개
2장 - 기계 번역 모델 구현(인코더-디코더)
3장 - 학습과 번역 생성
4장 - 번역 모델 개선

데이터셋(영-프 문장 코퍼스)

영어 코퍼스

new jersey is sometimes quiet during autumn , and it is snowy in april .
the united states is usually chilly during july , and it is usually freezing ...
california is usually quiet during march , and it is usually hot in june .

프랑스어 코퍼스

new jersey est parfois calme pendant l' automne , et il est neigeux en avril .
les états-unis est généralement froid en juillet , et il gèle habituellement ...
california est généralement calme en mars , et il est généralement chaud en juin .

¹ https://github.com/udacity/deep-learning/tree/master/language-translation/data

기계 번역 - 개요

영어에서 프랑스어로

기계 번역 - 개요

소스·타깃 언어 용어

기계 번역 - 개요

기계 번역 모델

기계 번역 - 개요

기계 번역 모델

원-핫 인코딩 벡터

0과 1로만 된 벡터
벡터 길이는 어휘집 크기로 결정됨
어휘집: 데이터셋의 고유 단어 집합

원-핫 벡터

원-핫 인코딩 벡터

단어와 해당 인덱스를 매핑한 사전

word2index = {"I":0, "like": 1, "cats": 2}

단어를 ID/인덱스로 변환

words = ["I", "like", "cats"]
word_ids = [word2index[w] for w in words]
print(word_ids)

[0, 1, 2]

원-핫 인코딩 벡터

출력 벡터 길이 미지정 원-핫 인코딩

onehot_1 = to_categorical(word_ids)
print([(w,ohe.tolist()) for w,ohe in zip(words, onehot_1)])

[('I', [1.0, 0.0, 0.0]), ('like', [0.0, 1.0, 0.0]), ('cats', [0.0, 0.0, 1.0])]

출력 벡터 길이 지정 원-핫 인코딩

onehot_2 = to_categorical(word_ids, num_classes=5)
print([(w,ohe.tolist()) for w,ohe in zip(words, onehot_2)])

[('I', [1.0, 0.0, 0.0, 0.0, 0.0]), ('like', [0.0, 1.0, 0.0, 0.0, 0.0]), 
('cats', [0.0, 0.0, 1.0, 0.0, 0.0])]

연습해 봅시다!

Keras로 배우는 Machine Translation