Natural Language Processing con spaCy
Azadeh Mobasher
Principal Data Scientist
import spacynlp = spacy.load("en_core_web_sm")doc = nlp("Here's my spaCy pipeline.")
spaCyspacy.load() per ottenere nlp, una classe LanguageLanguage è la pipeline di elaborazione del testonlp() a un testo per ottenere un contenitore Doc
spaCy applica alcuni passaggi di elaborazione tramite la sua classe Language:
spaCy ci sono più strutture dati per rappresentare il testo:
| Nome | Descrizione |
|---|---|
Doc |
Contenitore per accedere alle annotazioni linguistiche del testo |
Span |
Una porzione di un oggetto Doc |
Token |
Un singolo token: parola, punteggiatura, spazio, ecc. |
spaCy dipende sempre dal modello caricato e dalle sue capacità.
| Componente | Nome | Descrizione |
|---|---|---|
| Tokenizer | Tokenizer | Segmenta il testo in token e crea l'oggetto Doc |
| Tagger | Tagger | Assegna le etichette morfosintattiche |
| Lemmatizer | Lemmatizer | Riduce le parole alla forma base |
| EntityRecognizer | NER | Rileva e etichetta le entità nominate |
Ogni componente ha funzionalità specifiche per elaborare il testo
import spacy nlp = spacy.load("en_core_web_sm") doc = nlp("Tokenization splits a sentence into its tokens.")print([token.text for token in doc])
['Tokenization', 'splits', 'a', 'sentence', 'into', 'its', 'tokens', '.']
DependencyParserimport spacy nlp = spacy.load("en_core_web_sm") text = "We are learning NLP. This course introduces spaCy." doc = nlp(text)for sent in doc.sents: print(sent.text)
We are learning NLP.
This course introduces spaCy.
import spacy nlp = spacy.load("en_core_web_sm") doc = nlp("We are seeing her after one year.")print([(token.text, token.lemma_) for token in doc])
[('We', 'we'), ('are', 'be'), ('seeing', 'see'), ('her', 'she'),
('after', 'after'), ('one', 'one'), ('year', 'year'), ('.', '.')]
Natural Language Processing con spaCy