spaCy EntityRuler

Traitement du langage naturel avec spaCy

Azadeh Mobasher

Principal Data Scientist

spaCy EntityRuler

EntityRuler ajoute des entités nommées à un conteneur Doc
Peut s'utiliser seul ou avec EntityRecognizer
Gabarits d'entités par expression pour des correspondances exactes (chaîne) :

{"label": "ORG", "pattern": "Microsoft"}

Gabarits d'entités par jeton avec un dictionnaire par jeton (liste) :

{"label": "GPE", "pattern": [{"LOWER": "san"}, {"LOWER": "francisco"}]}

Ajouter EntityRuler au pipeline spaCy

Utiliser la méthode .add_pipe()
Ajouter une liste de gabarits avec .add_patterns()

nlp = spacy.blank("en")
entity_ruler = nlp.add_pipe("entity_ruler")
patterns = [{"label": "ORG", "pattern": "Microsoft"},
            {"label": "GPE", "pattern": [{"LOWER": "san"}, {"LOWER": "francisco"}]}]
entity_ruler.add_patterns(patterns)

Ajouter EntityRuler au pipeline spaCy

.ents stocke les résultats d'un composant EntityLinker

doc = nlp("Microsoft is hiring software developer in San Francisco.")
print([(ent.text, ent.label_) for ent in doc.ents])

[("Microsoft", "ORG"), ("San Francisco", "GPE")]

EntityRuler en action

S'intègre aux composants du pipeline spaCy
Améliore la reconnaissance d'entités nommées
Modèle spaCy sans EntityRuler :

nlp = spacy.load("en_core_web_sm")

doc = nlp("Manhattan associates is a company in the U.S.")
print([(ent.text, ent.label_) for ent in doc.ents])

>>> [("Manhattan", "GPE"), ("U.S.", "GPE")]

EntityRuler en action

EntityRuler ajouté après le composant ner existant :

nlp = spacy.load("en_core_web_sm")
ruler = nlp.add_pipe("entity_ruler", after='ner')
patterns = [{"label": "ORG", "pattern": [{"lower": "manhattan"}, {"lower": "associates"}]}]
ruler.add_patterns(patterns)

doc = nlp("Manhattan associates is a company in the U.S.")
print([(ent.text, ent.label_) for ent in doc.ents])

>>> [("Manhattan", "GPE"), ("U.S.", "GPE")]

EntityRuler en action

EntityRuler ajouté avant le composant ner existant :

nlp = spacy.load("en_core_web_sm")
ruler = nlp.add_pipe("entity_ruler", before='ner')
patterns = [{"label": "ORG", "pattern": [{"lower": "manhattan"}, {"lower": "associates"}]}]
ruler.add_patterns(patterns)

doc = nlp("Manhattan associates is a company in the U.S.")
print([(ent.text, ent.label_) for ent in doc.ents])

>>> [("Manhattan associates", "ORG"), ("U.S.", "GPE")]

Passons à la pratique !

Traitement du langage naturel avec spaCy