Pengantar vektor kata

Pemrosesan Bahasa Alami dengan spaCy

Azadeh Mobasher

Principal Data Scientist

Vektor kata (embedding)

Kalimat	I	got	covid	coronavirus
I got covid	1	2	3
I got coronavirus	1	2		4

Jumlah dimensi sudah ditetapkan
Mempertimbangkan frekuensi kata dan kehadiran kata lain dalam konteks serupa

Contoh vektor kata

Beragam pendekatan untuk membuat vektor kata:
- word2vec, GloVe, fastText, dan arsitektur berbasis transformer
Contoh vektor kata:

Contoh vektor kata

import spacy
nlp = spacy.load("en_core_web_md")
print(nlp.meta["vectors"])

>>> {'width': 300, 'vectors': 20000, 'keys': 514157, 
'name': 'en_vectors', 'mode': 'default'}

import  spacy
nlp = spacy.load("en_core_web_md")
like_id = nlp.vocab.strings["like"]
print(like_id)

>>> 18194338103975822726

print(nlp.vocab.vectors[like_id])

>>> array([-2.3334e+00, -1.3695e+00, -1.1330e+00, -6.8461e-01, ...])

Pemrosesan Bahasa Alami dengan spaCy