品詞タグ付け

Pythonで学ぶNLPの特徴量エンジニアリング

Rounak Banik

Data Scientist

応用例

import spacy

# Load the en_core_web_sm model
nlp = spacy.load('en_core_web_sm')

# Initiliaze string
string = "Jane is an amazing guitarist"

# Create a Doc object
doc = nlp(string)

...
...
# Generate list of tokens and pos tags
pos = [(token.text, token.pos_) for token in doc]
print(pos)

[('Jane', 'PROPN'), 
 ('is', 'VERB'), 
 ('an', 'DET'), 
 ('amazing', 'ADJ'), 
 ('guitarist', 'NOUN')]

品詞アノテーションに関するspaCyドキュメント

Pythonで学ぶNLPの特徴量エンジニアリング