Introductie tot prompt engineering

Prompt Engineering met de OpenAI API

Fouad Trad

Machine Learning Engineer

Wat is prompt engineering?

Het opstellen van prompts of instructies voor LLM's om gewenste antwoorden te krijgen

Een afbeelding van een engineer die de terminologie van prompt engineering uitlegt.

Prompt engineering is als een recept maken

Afbeelding van een chef die een maaltijd bereidt.

Waarom prompt engineering?

Een visueel diagram dat laat zien dat hoge kwaliteit prompts tot hoge kwaliteit antwoorden leiden

Waarom prompt engineering?

Een visueel diagram dat laat zien hoe de kwaliteit van antwoorden afhangt van de kwaliteit van inputprompts. Hoge kwaliteit prompts geven hoge kwaliteit antwoorden, lage kwaliteit prompts geven lage kwaliteit antwoorden.

Herhaling: OpenAI API

Maakt interactie met OpenAI-modellen mogelijk
In deze cursus al ingesteld
Toegang tot Chat Completions-endpoint

Herhaling: rollen van boodschappen

Elke boodschap heeft een van drie rollen

Afbeelding met een pictogram voor de gebruikersrol.

Herhaling: rollen van boodschappen

Elke boodschap heeft een van drie rollen

Afbeelding met pictogrammen voor twee rollen: gebruiker en assistent.

Herhaling: rollen van boodschappen

Elke boodschap heeft een van drie rollen

Afbeelding met een pictogram voor elk van de drie rollen: gebruiker, systeem en assistent

Herhaling: rollen van boodschappen

Elke boodschap heeft een van drie rollen

Afbeelding met een pictogram voor elk van de drie rollen, met een communicatiepijl tussen systeem en assistent om systeemberichten te sturen.

Systeembericht: stuurt modelgedrag aan

Herhaling: rollen van boodschappen

Elke boodschap heeft een van drie rollen

Afbeelding met een pictogram voor elk van de drie rollen, met een pijl tussen systeem en assistent voor systeemberichten, en een pijl tussen gebruiker en assistent voor een prompt.

Systeembericht: stuurt modelgedrag aan
Gebruikersbericht: prompt van de gebruiker

Herhaling: rollen van boodschappen

Elke boodschap heeft een van drie rollen

Afbeelding met een pictogram voor elk van de drie rollen, met pijlen tussen systeem en assistent (systeemberichten), tussen gebruiker en assistent (prompt) en tussen assistent en gebruiker (antwoord).

Systeembericht: stuurt modelgedrag aan
Gebruikersbericht: prompt van de gebruiker
Assistentbericht: antwoord op de prompt

Herhaling: stuurparameters

Afbeelding met een thermometerpictogram met waarden tussen 0 en 2; 0 = geen willekeur, 2 = hoogste willekeur.

temperature: bepaalt de willekeur van het antwoord

Herhaling: stuurparameters

Afbeelding met een thermometer (0–2) voor willekeur en een schuifregelaar voor max_tokens waarbij lagere waarden kortere antwoorden geven.

temperature: bepaalt de willekeur van het antwoord
max_tokens: bepaalt de lengte van het antwoord

Herhaling: communiceren met de OpenAI API

prompt = "What is prompt engineering?"

client = OpenAI(api_key="api_key")

response = client.chat.completions.create(

  model = "gpt-4o-mini",

  messages = [{"role": "user",
             "content": prompt}],

  temperature = 0
)

print(response.choices[0].message.content)

Prompt engineering verwijst naar het ontwerpen en verfijnen van prompts of 
instructies voor een taalmodel zoals ChatGPT om gewenste 
reacties of gedragingen op te wekken. Het omvat het formuleren van specifieke richtlijnen of hints om 
de uitvoer van het model naar een gewenst resultaat te sturen.

De functie get_response() maken

def get_response(prompt):

  response = client.chat.completions.create(
    model = "gpt-4o-mini",
    messages = [{"role": "user",
             "content": prompt}],
    temperature = 0
  )

  return response.choices[0].message.content

Gebruik

response = get_response("What is prompt engineering?")
print(response)

Prompt engineering verwijst naar het proces van het ontwerpen en verfijnen van prompts of instructies voor een taalmodel 
zoals ChatGPT om gewenste reacties of gedragingen op te wekken. Het omvat het formuleren van specifieke richtlijnen of hints 
om de uitvoer van het model naar een gewenst resultaat te sturen.

Prompt verbeteren

prompt = "What is prompt engineering? Explain it in terms that can be understood 
by a 5-year-old"
response = get_response(prompt)
print(response)

Stel je voor dat je een heel slimme vriend hebt die veel vragen kan begrijpen en beantwoorden. 
Maar soms snapt die vriend niet precies wat je bedoelt of geeft die een verkeerd antwoord. 
Prompt engineering is dan alsof je je vriend hele duidelijke instructies of hints geeft, 
zodat je het best mogelijke antwoord krijgt.

Laten we oefenen!

Prompt Engineering met de OpenAI API

Preparing Video For Download...