Zero-shot-classificatie en QNLI

Natural Language Processing (NLP) in Python

Fouad Trad

Machine Learning Engineer

Zero-shot-classificatie

  • Laat een model tekst aan ongeziene labels toewijzen
  • Gebruikt natuurlijke-taalvoorspelling voor de output
  • Handig voor:
    • Contenttagging
    • Klantenondersteuning
    • Nieuwsartikelen filteren

Afbeelding met de tekst "The national football team won the cup yesterday" die geclassificeerd moet worden in drie categorieën: sports, technology en health.

Natural Language Processing (NLP) in Python

Zero-shot-classificatiepijplijn

from transformers import pipeline

zero_shot_classifier = pipeline(
task="zero-shot-classification",
model="MoritzLaurer/DeBERTa-v3-base-mnli-fever-anli" )
text = "The national football team won the cup yesterday."
candidate_labels = ["sports", "technology", "health"]
result = zero_shot_classifier(text, candidate_labels)
print(result)
{'sequence': 'The national football team won the cup yesterday.',
 'labels': ['sports', 'technology', 'health'], 
 'scores': [0.9948731064796448, 0.0029330444522202015, 0.002193822991102934]}
Natural Language Processing (NLP) in Python

Question Natural Language Inference (QNLI)

  • Bepaalt of het antwoord op een vraag in een passage staat
  • Handig voor:
    • Documentzoektocht
    • Chatbots
    • Informatie-opvraging

Afbeelding die laat zien dat QNLI een passage en een vraag ontvangt en een score teruggeeft.

Natural Language Processing (NLP) in Python

QNLI-pijplijn

from transformers import pipeline

qnli_pipeline = pipeline( task="text-classification", model="cross-encoder/qnli-electra-base" )
passage = "Penguins are found primarily in the Southern Hemisphere."
question = "Where do penguins live?"
result = qnli_pipeline({"text": question, "text_pair": passage})
print(result)
{'label': 'LABEL_0', 'score': 0.9951545000076294}
Natural Language Processing (NLP) in Python

QNLI-pijplijn

from transformers import pipeline
qnli_pipeline = pipeline(
    task="text-classification", 
    model="cross-encoder/qnli-electra-base"
    )
passage = "Penguins are found primarily in the Southern Hemisphere."
question = "What is the capital of Paris?"
result = qnli_pipeline({"text": question, "text_pair": passage})
print(result)
{'label': 'LABEL_0', 'score': 0.008907231502234936}
Natural Language Processing (NLP) in Python

Laten we oefenen!

Natural Language Processing (NLP) in Python

Preparing Video For Download...