Sohbet botu geliştirme için istem mühendisliği

OpenAI API ile Prompt Engineering

Fouad Trad

Machine Learning Engineer

Sohbet botları için istem mühendisliği gereksinimi

Kullanıcı sorularını öngörmek zordur
Etkili yanıtı garanti etmek zordur
İstem mühendisliği, botun davranışını yönlendirir

Bir mobil telefonda sohbet botu gösteren görsel.

OpenAI API ile sohbet botu istem mühendisliği

Bir mesajın üç rolünü ve aralarındaki iletişimi gösteren görsel.

Her mesajın bir rolü vardır

OpenAI API ile sohbet botu istem mühendisliği

Bir mesajın üç rolünü ve aralarındaki iletişimi gösteren, kullanıcı ile yardımcı etkileşimine vurgu eklenmiş görsel.

Her mesajın bir rolü vardır
Odak kullanıcı istemlerindeydi

OpenAI API ile sohbet botu istem mühendisliği

Bir mesajın üç rolünü ve aralarındaki iletişimi gösteren, sistem ile yardımcı etkileşimine vurgu eklenmiş görsel.

Her mesajın bir rolü vardır
Odak kullanıcı istemlerindeydi
Sistem istemleri bot davranışını yönlendirir

Sohbet botu geliştirme için sohbet tamamlamaları uç noktası

Modele mesajları liste olarak gönderir

response = client.chat.completions.create(
  model="gpt-3.5-turbo",
  messages=[{"role": "system",
             "content": "You are an expert data scientist that explains complex concepts in simple terms"},

            {"role": "user",
             "content": "What is prompt engineering?"}]
)

print(response.choices[0].message.content)

Imagine you're giving instructions to a computer program, like teaching a robot to make a sandwich. 
Prompt engineering is all about crafting those instructions, or "prompts," in a way that helps the 
computer understand and perform the task better.

Sohbet botu için get_response()’ı değiştirme

Tek bir istem gönderme

def get_response(prompt):
    messages = [
      {"role": "user", "content": prompt}
    ]
    response = client.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=messages,
        temperature=0,
    )
    return response.choices[0].message.content


prompt = "<PROMPT>"
print(get_response(prompt))

İki istem gönderme

def get_response(system_prompt, user_prompt):

    messages = [
      {"role": "system", "content": system_prompt},
      {"role": "user", "content": user_prompt}]

    response = client.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=messages,
        temperature=0,
    )
    return response.choices[0].message.content


system_prompt = "<SYSTEM_PROMPT>"
user_prompt = "<USER_PROMPT>"
print(get_response(system_prompt, user_prompt))

Sistem mesajı: amacı tanımlayın

system_prompt = "You are a chatbot that answers financial questions."


user_prompt = "Who are you?"

print(get_response(system_prompt, user_prompt))

I'm a financial chatbot that answers financial questions. How can I help you?

Sohbet botunun alanına uygun yanıt vermesini sağlar
Amaç tanımlanmazsa bağlam dışı yanıtlar gelebilir

Sistem mesajı: yanıt yönergeleri

Hedef kitleyi, tonu, uzunluğu, yapıyı belirtin

system_prompt = """You are a chatbot that answers financial questions. 
Your answers should be precise, formal and objective"""


user_prompt = "What do you think about cryptocurrencies?"

print(get_response(system_prompt, user_prompt))

Sistem mesajı: yanıt yönergeleri

Cryptocurrencies are digital or virtual currencies that use cryptography for security and operate on 
decentralized networks based on blockchain technology. 
[...]


Advantages of cryptocurrencies include:
- Decentralization: [...]
- Security:[...]
- Global Accessibility: [...]


However, there are also notable concerns:
- Volatility: [...]
- Regulatory Uncertainty: [...]
- Lack of Consumer Protection: [...]


In summary, cryptocurrencies have the potential to offer various benefits, but their adoption and impact 
on the financial landscape are still evolving [...]

Sistem mesajı: davranış rehberi

Sorulara yanıt için koşullu istemler

system_prompt = """You are a chatbot that answers financial questions. 
Your answers should be precise, formal and objective.


"""

Sistem mesajı: davranış rehberi

Sorulara yanıt için koşullu istemler

system_prompt = """You are a chatbot that answers financial questions. 
Your answers should be precise, formal and objective.
If the question you receive is within the financial field, answer it to the best of your knowledge.

"""

Sistem mesajı: davranış rehberi

Sorulara yanıt için koşullu istemler

system_prompt = """You are a chatbot that answers financial questions. 
Your answers should be precise, formal and objective.
If the question you receive is within the financial field, answer it to the best of your knowledge.
Otherwise, answer with 'Sorry, I only know about finance.'
"""

user_prompt = "How's the weather today?"

print(get_response(system_prompt, user_prompt))

Sorry, I only know about finance.

Hadi pratik yapalım!

OpenAI API ile Prompt Engineering