Word vectors का परिचय

spaCy के साथ Natural Language Processing

Azadeh Mobasher

Principal Data Scientist

Word vectors (embeddings)

 

  • शब्दों के संख्यात्मक प्रतिनिधित्व
  • Bag of words विधि: {"I": 1, "got": 2, ...}

 

  • पुरानी विधियाँ अर्थ समझने नहीं देतीं:
Sentences    I       got      covid   coronavirus
I got covid    1     2     3
I got coronavirus    1     2        4
spaCy के साथ Natural Language Processing

Word vectors

  • निश्चित संख्या के dimensions
  • शब्द आवृत्तियों और समान संदर्भों में अन्य शब्दों की उपस्थिति को ध्यान में रखता है

Word vectors के उदाहरण

spaCy के साथ Natural Language Processing

Word vectors

  • Word vectors बनाने के कई तरीके:

    • word2vec, Glove, fastText और transformer-based architectures
  • एक word vector का उदाहरण:

उदाहरण word vector

spaCy के साथ Natural Language Processing

spaCy vocabulary

 

  • कई spaCy models का हिस्सा.
  • en_core_web_md में 20,000 शब्दों के लिए 300-dimensional vectors हैं.

 

import spacy
nlp = spacy.load("en_core_web_md")
print(nlp.meta["vectors"])
>>> {'width': 300, 'vectors': 20000, 'keys': 514157, 
'name': 'en_vectors', 'mode': 'default'}
spaCy के साथ Natural Language Processing

spaCy में Word vectors

  • nlp.vocab: vocabulary (Vocab class) एक्सेस करने के लिए
  • nlp.vocab.strings: vocabulary में word IDs एक्सेस करने के लिए
import  spacy
nlp = spacy.load("en_core_web_md")
like_id = nlp.vocab.strings["like"]
print(like_id)
>>> 18194338103975822726
  • .vocab.vectors: किसी मॉडल या शब्द के vectors उसके ID से एक्सेस करें
print(nlp.vocab.vectors[like_id])
>>> array([-2.3334e+00, -1.3695e+00, -1.1330e+00, -6.8461e-01, ...])
spaCy के साथ Natural Language Processing

अभ्यास करते हैं!

spaCy के साथ Natural Language Processing

Preparing Video For Download...