Introductie tot prompt engineering

Prompt Engineering met de OpenAI API

Fouad Trad

Machine Learning Engineer

Wat is prompt engineering?

Het opstellen van prompts of instructies voor LLM’s om gewenste antwoorden te krijgen

Afbeelding van een engineer die de terminologie van prompt engineering introduceert.

Prompt engineering is als een recept maken

Afbeelding van een chef die een maaltijd bereidt.

Waarom prompt engineering?

Een diagram dat laat zien dat hoogwaardige prompts tot hoogwaardige antwoorden leiden

Waarom prompt engineering?

Een diagram dat toont hoe de kwaliteit van de antwoorden afhangt van de kwaliteit van de inputprompts. Hoge kwaliteit prompts geven hoge kwaliteit antwoorden, lage kwaliteit prompts geven lage kwaliteit antwoorden.

Herhaling: OpenAI API

Maakt interactie met OpenAI-modellen mogelijk
In deze cursus al ingesteld
Toegang tot Chat Completions-endpoint

Herhaling: berichtrollen

Elke boodschap heeft één van drie rollen

Pictogram voor de gebruikersrol.

Herhaling: berichtrollen

Elke boodschap heeft één van drie rollen

Pictogrammen voor twee rollen: user en assistant.

Herhaling: berichtrollen

Elke boodschap heeft één van drie rollen

Pictogram voor elk van de drie rollen: user, system en assistant

Herhaling: berichtrollen

Elke boodschap heeft één van drie rollen

Pictogrammen voor de drie rollen, met een pijl tussen system en assistant om system-berichten te sturen.

System-bericht: stuurt modelgedrag

Herhaling: berichtrollen

Elke boodschap heeft één van drie rollen

Pictogrammen voor de drie rollen, met een pijl tussen system en assistant om system-berichten te sturen, en een pijl tussen user en assistant om een prompt te sturen.

System-bericht: stuurt modelgedrag
User-bericht: prompt van de gebruiker

Herhaling: berichtrollen

Elke boodschap heeft één van drie rollen

Pictogrammen voor de drie rollen, met een pijl tussen system en assistant om system-berichten te sturen, een pijl tussen user en assistant om een prompt te sturen, en een pijl tussen assistant en user om de reactie te sturen.

System-bericht: stuurt modelgedrag
User-bericht: prompt van de gebruiker
Assistant-bericht: reactie op de prompt

Herhaling: stuurparameters

Pictogram van een thermometer met waarden 0–2, waarbij 0 geen willekeur en 2 hoogste willekeur toont.

temperature: bepaalt de willekeur van het antwoord

Herhaling: stuurparameters

Pictogram van een thermometer met waarden 0–2 (0 geen willekeur, 2 hoogste), plus een schuifregelaar voor max_tokens: lagere waarden geven kortere antwoorden.

temperature: bepaalt de willekeur van het antwoord
max_tokens: bepaalt de lengte van de reactie

Herhaling: communiceren met de OpenAI API

prompt = "What is prompt engineering?"

client = OpenAI(api_key="api_key")

response = client.chat.completions.create(

  model = "gpt-3.5-turbo",

  messages = [{"role": "user",
             "content": prompt}],

  temperature = 0
)

print(response.choices[0].message.content)

Prompt engineering is het ontwerpen en verfijnen van prompts of instructies voor een taalmodel zoals ChatGPT om gewenste antwoorden of gedrag uit te lokken. Het houdt in dat je specifieke richtlijnen of hints formuleert om de output naar het gewenste resultaat te sturen.

De functie get_response() maken

def get_response(prompt):

  response = client.chat.completions.create(
    model = "gpt-3.5-turbo",
    messages = [{"role": "user",
             "content": prompt}],
    temperature = 0
  )

  return response.choices[0].message.content

Gebruik

response = get_response("What is prompt engineering?")
print(response)

Prompt engineering is het proces van het ontwerpen en verfijnen van prompts of instructies voor een taalmodel zoals ChatGPT om gewenste reacties of gedrag op te wekken. Het houdt in dat je specifieke richtlijnen of hints opstelt om de output naar een gewenst resultaat te sturen.

Prompt verbeteren

prompt = "What is prompt engineering? Explain it in terms that can be understood 
by a 5-year-old"
response = get_response(prompt)
print(response)

Stel je een heel slimme vriend voor die veel vragen kan beantwoorden. Soms snapt die niet precies wat je wilt of geeft die een fout antwoord. Prompt engineering is dan het geven van hele duidelijke instructies of hints zodat je de best mogelijke reactie krijgt.

Laten we oefenen!

Prompt Engineering met de OpenAI API

Preparing Video For Download...