Role v chatu a systémové zprávy

Práce s OpenAI API

James Chapman

Curriculum Manager, DataCamp

Chat Completions

Jednorázové úlohy

Generování textu
Transformace textu
Klasifikace

Jednorázová úloha s jedním promptem a jednou odpovědí.

Chat Completions

Jednorázové úlohy

Generování textu
Transformace textu
Klasifikace

Vícekrokové konverzace

→ Navazují na předchozí prompty a odpovědi

Vícekroková úloha s více prompty a odpověďmi.

Role

System: řídí chování asistenta
User: instruuje asistenta
Assistant: odpověď na instrukci uživatele
- Může také psát vývojář pro poskytnutí příkladů

Tři role v chatové interakci: systém, uživatel a asistent.

Nastavení požadavku

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": prompt}]
)

Nastavení promptu

messages=[{"role": "system",
           "content": "You are a Python programming tutor who speaks concisely."},
          {"role": "user",
           "content": "What is the difference between mutable and immutable objects?"}]

Odeslání požadavku

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "system",
             "content": "You are a Python programming tutor who speaks concisely."},
            {"role": "user",
             "content": "What is the difference between mutable and immutable objects?"}]
)


print(response.choices[0].message.content)

Odpověď

Mutable objects can be changed after creation, while immutable objects cannot be
modified once they are created.

Prevence zneužití

Systémová zpráva: může obsahovat ochranné mantinely
- Omezení výstupů modelu

Chatbot finančního tutora a chatbot finančního poradce.

Prevence zneužití pomocí systémových zpráv

sys_msg = """
You are finance education assistant that helps students study for exams.

If you are asked for specific, real-world financial advice with risk to their
finances, respond with:

I'm sorry, I am not allowed to provide financial advice.
"""

Prevence zneužití pomocí systémových zpráv

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "system",
             "content": sys_msg},
            {"role": "user",
             "content": "Which stocks should I invest in?"}]
)

print(response.choices[0].message.content)

I'm sorry, I am not allowed to provide financial advice.

Pojďme si procvičit!

Práce s OpenAI API