Разметка частей речи

Конструирование признаков для NLP на Python

Rounak Banik

Data Scientist

Применение

  • Разрешение лексической многозначности
    • "The bear is a majestic animal"
    • "Please bear with me"
  • Анализ тональности
  • Ответы на вопросы
  • Выявление фейков и спама мнений
Конструирование признаков для NLP на Python

POS-разметка

  • Каждому слову присваивается соответствующая часть речи.
    "Jane is an amazing guitarist."
    
  • POS-разметка:
    • Janeимя собственное
    • isглагол
    • anартикль
    • amazingприлагательное
    • guitaristсуществительное
Конструирование признаков для NLP на Python

POS-разметка с помощью spaCy

import spacy

# Load the en_core_web_sm model
nlp = spacy.load('en_core_web_sm')
# Initiliaze string
string = "Jane is an amazing guitarist"
# Create a Doc object
doc = nlp(string)
Конструирование признаков для NLP на Python

POS-разметка с помощью spaCy

...
...
# Generate list of tokens and pos tags
pos = [(token.text, token.pos_) for token in doc]
print(pos)
[('Jane', 'PROPN'), 
 ('is', 'VERB'), 
 ('an', 'DET'), 
 ('amazing', 'ADJ'), 
 ('guitarist', 'NOUN')]
Конструирование признаков для NLP на Python

POS-аннотации в spaCy

Документация spaCy по POS-аннотациям

Конструирование признаков для NLP на Python

Давайте потренируемся!

Конструирование признаков для NLP на Python

Preparing Video For Download...