Prompt engineering

LLMOps-concepten

Max Knobbout, PhD

Applied Scientist, Uber

LLM-levenscyclus: prompt engineering

Overzicht van de fasen in de levenscyclus van LLM-applicaties

LLMOps-concepten

De ontwikkelcyclus

Een eerste overzicht van de ontwikkelcyclus, die in dit hoofdstuk verfijnd wordt

LLMOps-concepten

Waarom is prompt engineering belangrijk?

 

Een speelse cartoon die over prompts lesgeeft

 

 

  • Betere prestaties
  • Controle over output
  • Voorkom bias en hallucinaties
LLMOps-concepten

Onderdelen van een prompt

 

 

  1. Instructie
  2. Voorbeelden / context
  3. Inputdata
  4. Outputindicator

Voorbeeld van een prompt met instructie, voorbeelden, input en output

LLMOps-concepten

De perfecte prompt vinden

 

 

Afbeelding van twee stripfiguren die spelen op een speelplaats

 

Experimenteer met:

  • LLM-instellingen, zoals temperatuur of max tokens
  • In-context learning en andere promptpatronen

 

Gebruik een playground om te experimenteren!

LLMOps-concepten

Promptbeheer

 

 

Een speels stripfiguur dat prompts archiveert in een doos

  • Cruciaal voor efficiëntie, reproduceerbaarheid en samenwerking
  • Belangrijk om bij te houden:
    • Prompt
    • Output
    • Model en instellingen
  • Gebruik een promptmanager of versiebeheer
  • Bouw een set goede input-outputparen op voor evaluatie
LLMOps-concepten

Promptsjablonen voor hergebruik

Afbeelding van een prompt links en een promptsjabloon rechts, met het verschil ertussen

LLMOps-concepten

De ontwikkelcyclus

Een eerste overzicht van de ontwikkelcyclus, die in dit hoofdstuk verfijnd wordt

LLMOps-concepten

De ontwikkelcyclus

Ontwikkelcyclus met de activiteit prompt engineering toegevoegd

LLMOps-concepten

Laten we oefenen!

LLMOps-concepten

Preparing Video For Download...