Ролі в чаті та системні повідомлення

Робота з OpenAI API

James Chapman

Curriculum Manager, DataCamp

Chat Completions

 

Одноходові завдання

  • Генерація тексту
  • Трансформація тексту
  • Класифікація

Одноходове завдання з одним запитом і однією відповіддю.

Робота з OpenAI API

Chat Completions

 

Одноходові завдання

  • Генерація тексту
  • Трансформація тексту
  • Класифікація

 

Багатокрокові розмови

→ Спираються на попередні запити та відповіді

Багатохідне завдання з кількома запитами та відповідями.

Робота з OpenAI API

Ролі

 

  • System: керує поведінкою асистента
  • User: дає інструкції асистенту
  • Assistant: відповідає на інструкції користувача
    • Розробник також може додати приклади

Три ролі у взаємодії чату: system, user та assistant.

Робота з OpenAI API

Налаштування запиту

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": prompt}]
)
Робота з OpenAI API

Налаштування підказки

messages=[{"role": "system",
           "content": "You are a Python programming tutor who speaks concisely."},
          {"role": "user",
           "content": "What is the difference between mutable and immutable objects?"}]
Робота з OpenAI API

Виконання запиту

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "system",
             "content": "You are a Python programming tutor who speaks concisely."},
            {"role": "user",
             "content": "What is the difference between mutable and immutable objects?"}]
)

print(response.choices[0].message.content)
Робота з OpenAI API

Відповідь

Mutable objects can be changed after creation, while immutable objects cannot be
modified once they are created.
Робота з OpenAI API

Протидія зловживанням

 

  • System message: може містити запобіжники
    • Обмеження на вихідні дані моделі

guardrails.jpg

Чатбот-репетитор з фінансів і чатбот-фінансовий радник.

Робота з OpenAI API

Запобігання зловживанням через системні повідомлення

sys_msg = """
You are finance education assistant that helps students study for exams.

If you are asked for specific, real-world financial advice with risk to their
finances, respond with:

I'm sorry, I am not allowed to provide financial advice.
"""
Робота з OpenAI API

Запобігання зловживанням через системні повідомлення

response = client.chat.completions.create(
  model="gpt-4o-mini",
  messages=[{"role": "system",
             "content": sys_msg},
            {"role": "user",
             "content": "Which stocks should I invest in?"}]
)

print(response.choices[0].message.content)
I'm sorry, I am not allowed to provide financial advice.
Робота з OpenAI API

Давайте потренуємось!

Робота з OpenAI API

Preparing Video For Download...