Prompt engineering

LLMOps-koncept

Max Knobbout, PhD

Applied Scientist, Uber

LLM-livscykel: Prompt engineering

Översikt över faserna i LLM-applikationens livscykel

LLMOps-koncept

Utvecklingscykeln

En inledande översikt av utvecklingscykeln, som förfinas under kursens gång

LLMOps-koncept

Varför är prompt engineering viktigt?

 

En lekfull tecknad figur som illustrerar prompts

 

 

  • Förbättra prestanda
  • Kontroll över utdata
  • Undvik bias och hallucinationer
LLMOps-koncept

Delar av en prompt

 

 

  1. Instruktion
  2. Exempel / Kontext
  3. Indata
  4. Utdataindikator

Exempel på en prompt med instruktion, exempel, indata och utdata

LLMOps-koncept

Hitta den perfekta prompten

 

 

Bild på två tecknade figurer som leker på en lekplats

 

Experimentera med:

  • LLM-inställningar, t.ex. temperature eller max tokens
  • In-context learning och andra promptdesignmönster

 

Använd en playground för att experimentera!

LLMOps-koncept

Prompthantering

 

 

En lekfull tecknad figur som arkiverar prompts i en låda

  • Viktigt för effektivitet, reproducerbarhet och samarbete
  • Spåra:
    • Prompt
    • Utdata
    • Modell och inställningar
  • Använd en prompthanterare eller versionshantering
  • Börja bygga upp en samling bra input-output-par för utvärdering
LLMOps-koncept

Promptmallar för återanvändbarhet

Bild med en prompt till vänster och en promptmall till höger, som visar skillnaden mellan dem

LLMOps-koncept

Utvecklingscykeln

En inledande översikt av utvecklingscykeln, som förfinas under kursens gång

LLMOps-koncept

Utvecklingscykeln

Utvecklingscykeln med prompt engineering inlagd som aktivitet

LLMOps-koncept

Nu kör vi en övning!

LLMOps-koncept

Preparing Video For Download...