Vraagbeantwoording

Natural Language Processing (NLP) in Python

Fouad Trad

Machine Learning Engineer

Extractive QA

  • Antwoord rechtstreeks gekopieerd uit de tekst

  Afbeelding met context "De bibliotheek sluit doordeweeks om 18:00"

Afbeelding met een extractief antwoord: "18:00"

Abstractive QA

  • Model genereert een natuurlijk antwoord

  Afbeelding met een vraag: "Wanneer sluit de bibliotheek doordeweeks?"

Afbeelding met een abstractief antwoord: "Sluiting is om 18:00"

Natural Language Processing (NLP) in Python

Extractive QA

  • Handig voor:
    • Zoekmachines
    • Documentophaal­systemen
    • Leesbegripsapps
  • Nauwkeuriger, minder foutgevoelig

extractive_photo.png

Abstractive QA

  • Handig voor:
    • Conversatie­agents
    • Virtuele assistenten
    • Klantenservicebots
  • Kan fouten introduceren

abstractive_image.png

Natural Language Processing (NLP) in Python

Extractive QA

from transformers import pipeline

qa_pipeline = pipeline(task="question-answering", model="distilbert/distilbert-base-cased-distilled-squad")
context = """The Amazon rainforest is the largest tropical rainforest in the world, covering parts of Brazil, Peru, and Colombia."""
question = "Which countries does the Amazon rainforest cover?"
qa_answer = qa_pipeline(question=question, context=context) print(qa_answer)
{'score': 0.9242347478866577,

'start': 90, 'end': 116,
'answer': 'Brazil, Peru, and Colombia'}
Natural Language Processing (NLP) in Python

Abstractive QA

from transformers import pipeline
qa_pipeline = pipeline(task="text2text-generation",
                       model="fangyuan/hotpotqa_abstractive")

context = """The Amazon rainforest is the largest tropical rainforest in the world, covering parts of Brazil, Peru, and Colombia.""" question = "Which countries does the Amazon rainforest cover?"
input_text = f"question: {question} context: {context}"
result = qa_pipeline(input_text)
print(result)
[{'generated_text': 'The Amazon rainforest covers parts of Brazil, Peru, and Colombia.'}]
Natural Language Processing (NLP) in Python

Laten we oefenen!

Natural Language Processing (NLP) in Python

Preparing Video For Download...