Розмітка частин мови

Інженерія ознак для NLP у Python

Rounak Banik

Data Scientist

Застосування

  • Розрізнення значень слів
    • "The bear is a majestic animal"
    • "Please bear with me"
  • Аналіз тональності
  • Відповіді на запитання
  • Виявлення фейкових новин і спаму в відгуках
Інженерія ознак для NLP у Python

Розмітка частин мови (POS)

  • Призначення кожному слову його частини мови.
    "Jane is an amazing guitarist."
    
  • POS Tagging:
    • Janeвласна назва
    • isдієслово
    • anвизначник
    • amazingприкметник
    • guitaristіменник
Інженерія ознак для NLP у Python

Розмітка POS у spaCy

import spacy

# Load the en_core_web_sm model
nlp = spacy.load('en_core_web_sm')
# Initiliaze string
string = "Jane is an amazing guitarist"
# Create a Doc object
doc = nlp(string)
Інженерія ознак для NLP у Python

Розмітка POS у spaCy

...
...
# Generate list of tokens and pos tags
pos = [(token.text, token.pos_) for token in doc]
print(pos)
[('Jane', 'PROPN'), 
 ('is', 'VERB'), 
 ('an', 'DET'), 
 ('amazing', 'ADJ'), 
 ('guitarist', 'NOUN')]
Інженерія ознак для NLP у Python

POS-нотації в spaCy

Документація spaCy щодо POS-нотацій

Інженерія ознак для NLP у Python

Давайте потренуємось!

Інженерія ознак для NLP у Python

Preparing Video For Download...