Giới thiệu về kỹ thuật nhắc lệnh

Kỹ thuật Prompt với OpenAI API

Fouad Trad

Machine Learning Engineer

Kỹ thuật nhắc lệnh là gì?

Soạn nhắc lệnh hoặc hướng dẫn cho LLM để nhận phản hồi như mong muốn

Hình một kỹ sư giới thiệu thuật ngữ kỹ thuật nhắc lệnh.

Kỹ thuật Prompt với OpenAI API

Kỹ thuật nhắc lệnh giống như soạn công thức nấu ăn

Hình một đầu bếp đang chế biến món ăn.

Kỹ thuật Prompt với OpenAI API

Vì sao cần kỹ thuật nhắc lệnh?

  Sơ đồ cho thấy nhắc lệnh chất lượng cao tạo ra câu trả lời chất lượng cao

Kỹ thuật Prompt với OpenAI API

Vì sao cần kỹ thuật nhắc lệnh?

  Sơ đồ cho thấy chất lượng câu trả lời phụ thuộc vào chất lượng nhắc lệnh đầu vào. Nhắc lệnh tốt → trả lời tốt; nhắc lệnh kém → trả lời kém.

Kỹ thuật Prompt với OpenAI API

Ôn tập: OpenAI API

  • Cho phép tương tác với các mô hình OpenAI
  • Đã được thiết lập sẵn trong khóa học này
  • Truy cập endpoint Chat Completions

Logo ChatGPT màu trắng.

Kỹ thuật Prompt với OpenAI API

Ôn tập: vai trò tin nhắn

Mỗi tin nhắn có một trong ba vai trò

Hình biểu tượng cho vai trò người dùng.

Kỹ thuật Prompt với OpenAI API

Ôn tập: vai trò tin nhắn

Mỗi tin nhắn có một trong ba vai trò

Hình biểu tượng cho hai vai trò: người dùng và trợ lý.

Kỹ thuật Prompt với OpenAI API

Ôn tập: vai trò tin nhắn

Mỗi tin nhắn có một trong ba vai trò

Hình biểu tượng cho ba vai trò: người dùng, hệ thống và trợ lý

Kỹ thuật Prompt với OpenAI API

Ôn tập: vai trò tin nhắn

Mỗi tin nhắn có một trong ba vai trò

Hình biểu tượng cho ba vai trò, với mũi tên liên lạc giữa hệ thống và trợ lý để gửi thông điệp hệ thống.

  • System message: định hướng hành vi mô hình
Kỹ thuật Prompt với OpenAI API

Ôn tập: vai trò tin nhắn

Mỗi tin nhắn có một trong ba vai trò

Hình biểu tượng cho ba vai trò, với mũi tên giữa hệ thống và trợ lý để gửi thông điệp hệ thống, và mũi tên giữa người dùng và trợ lý để gửi nhắc lệnh.

  • System message: định hướng hành vi mô hình
  • User message: nhắc lệnh từ người dùng
Kỹ thuật Prompt với OpenAI API

Ôn tập: vai trò tin nhắn

Mỗi tin nhắn có một trong ba vai trò

Hình biểu tượng cho ba vai trò, với mũi tên giữa hệ thống và trợ lý để gửi thông điệp hệ thống, mũi tên giữa người dùng và trợ lý để gửi nhắc lệnh, và mũi tên giữa trợ lý và người dùng để gửi phản hồi.

  • System message: định hướng hành vi mô hình
  • User message: nhắc lệnh từ người dùng
  • Assistant message: phản hồi cho nhắc lệnh
Kỹ thuật Prompt với OpenAI API

Ôn tập: tham số điều khiển

Hình biểu tượng nhiệt kế với giá trị 0–2; 0 là không ngẫu nhiên, 2 là ngẫu nhiên cao nhất.

  • temperature: kiểm soát mức ngẫu nhiên của câu trả lời
Kỹ thuật Prompt với OpenAI API

Ôn tập: tham số điều khiển

Hình nhiệt kế với thang 0–2 và một thanh trượt biểu diễn max_tokens; giá trị thấp cho phản hồi ngắn hơn.

  • temperature: kiểm soát mức ngẫu nhiên của câu trả lời
  • max_tokens: kiểm soát độ dài phản hồi
Kỹ thuật Prompt với OpenAI API

Ôn tập: giao tiếp với OpenAI API

prompt = "What is prompt engineering?"

client = OpenAI(api_key="api_key")

response = client.chat.completions.create(

  model = "gpt-4o-mini",

  messages = [{"role": "user",
             "content": prompt}],

  temperature = 0
)

print(response.choices[0].message.content)

Prompt engineering refers to the process of designing and refining prompts or 
instructions given to a language model like ChatGPT in order to elicit desired 
responses or behaviors. It involves formulating specific guidelines or hints to 
guide the model's output towards a desired outcome.
Kỹ thuật Prompt với OpenAI API

Tạo hàm get_response()

def get_response(prompt):

  response = client.chat.completions.create(
    model = "gpt-4o-mini",
    messages = [{"role": "user",
             "content": prompt}],
    temperature = 0
  )

  return response.choices[0].message.content

Cách dùng

response = get_response("What is prompt engineering?")
print(response)

Prompt engineering refers to the process of designing and refining prompts or instructions given to a language model 
like ChatGPT in order to elicit desired responses or behaviors. It involves formulating specific guidelines or hints 
to guide the model's output towards a desired outcome.
Kỹ thuật Prompt với OpenAI API

Cải thiện nhắc lệnh

prompt = "What is prompt engineering? Explain it in terms that can be understood 
by a 5-year-old"
response = get_response(prompt)
print(response)

Imagine you have a very smart friend who can understand and answer lots of 
questions. But sometimes, they might not understand exactly what you want or give 
the wrong answer. So, prompt engineering is like giving your friend really clear 
instructions or hints to help them give you the best answer possible.
Kỹ thuật Prompt với OpenAI API

Ayo berlatih!

Kỹ thuật Prompt với OpenAI API

Preparing Video For Download...