spaCy EntityRuler

Обработка естественного языка с помощью spaCy

Azadeh Mobasher

Principal Data Scientist

spaCy EntityRuler

EntityRuler добавляет именованные сущности в контейнер Doc
Используется самостоятельно или совместно с EntityRecognizer
Фразовые шаблоны сущностей для точного совпадения строк (строка):

{"label": "ORG", "pattern": "Microsoft"}

Токенные шаблоны сущностей — один словарь описывает один токен (список):

{"label": "GPE", "pattern": [{"LOWER": "san"}, {"LOWER": "francisco"}]}

Добавление EntityRuler в конвейер spaCy

Используется метод .add_pipe()
Список шаблонов добавляется методом .add_patterns()

nlp = spacy.blank("en")
entity_ruler = nlp.add_pipe("entity_ruler")
patterns = [{"label": "ORG", "pattern": "Microsoft"},
            {"label": "GPE", "pattern": [{"LOWER": "san"}, {"LOWER": "francisco"}]}]
entity_ruler.add_patterns(patterns)

Добавление EntityRuler в конвейер spaCy

.ents хранит результаты работы компонента EntityLinker

doc = nlp("Microsoft is hiring software developer in San Francisco.")
print([(ent.text, ent.label_) for ent in doc.ents])

[('Microsoft', 'ORG'), ('San Francisco', 'GPE')]

EntityRuler в действии

Интегрируется с компонентами конвейера spaCy
Улучшает распознаватель именованных сущностей
Модель spaCy без EntityRuler:

nlp = spacy.load("en_core_web_sm")

doc = nlp("Manhattan associates is a company in the U.S.")
print([(ent.text, ent.label_) for ent in doc.ents])

>>> [('Manhattan', 'GPE'), ('U.S.', 'GPE')]

EntityRuler в действии

EntityRuler добавлен после существующего компонента ner:

nlp = spacy.load("en_core_web_sm")
ruler = nlp.add_pipe("entity_ruler", after='ner')
patterns = [{"label": "ORG", "pattern": [{"lower": "manhattan"}, {"lower": "associates"}]}]
ruler.add_patterns(patterns)

doc = nlp("Manhattan associates is a company in the U.S.")
print([(ent.text, ent.label_) for ent in doc.ents])

>>> [('Manhattan', 'GPE'), ('U.S.', 'GPE')]

EntityRuler в действии

EntityRuler добавлен перед существующим компонентом ner:

nlp = spacy.load("en_core_web_sm")
ruler = nlp.add_pipe("entity_ruler", before='ner')
patterns = [{"label": "ORG", "pattern": [{"lower": "manhattan"}, {"lower": "associates"}]}]
ruler.add_patterns(patterns)

doc = nlp("Manhattan associates is a company in the U.S.")
print([(ent.text, ent.label_) for ent in doc.ents])

>>> [('Manhattan associates', 'ORG'), ('U.S.', 'GPE')]

Давайте потренируемся!

Обработка естественного языка с помощью spaCy