Áp dụng kỹ thuật thiết kế prompt

Giới thiệu về Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Few-shot learning

Few-shot learning là gì?
- Kỹ thuật hướng dẫn mô hình bằng một vài ví dụ trong prompt
- Giúp mô hình suy ra mẫu và cải thiện chất lượng phản hồi
Lợi ích chính:
- Giảm mơ hồ trong prompt
- Tạo đầu ra nhất quán, chính xác hơn

Sơ đồ khái niệm minh họa học theo ví dụ.

Few-shot learning với mô hình

prompt = """Here are examples of AWS service summaries:

Service: Amazon S3
Summary: Object storage service for storing and retrieving any amount of data.

Service: Amazon EC2
Summary: Virtual servers in the cloud for running applications.

Now, write a similar summary for:
Service: AWS Lambda\n\nSummary:"""

Định dạng đầu ra có cấu trúc là gì?

Tổ chức phản hồi theo định dạng rõ ràng, dễ dự đoán
Lý tưởng cho tự động hóa và trích xuất dữ liệu

Kiểm soát định dạng phản hồi

Yêu cầu cấu trúc đầu ra cụ thể
Dùng mốc rõ ràng để phân tích cú pháp
Đặt ràng buộc định dạng

prompt = """Analyze AWS Lambda and provide output in this format:
DESCRIPTION:[2-3 sentence description]
KEY FEATURES:
- [feature 1]
- [feature 2]
USE CASES:
1. [use case 1]
2. [use case 2]"""

Tạo prompt hiệu quả

Kết hợp ví dụ few-shot với system prompt
Dùng định dạng có cấu trúc kèm ví dụ
Phối hợp nhiều kỹ thuật để có kết quả tốt hơn

prompt = """You are an AWS technical writer. 
Here's an example of how to document APIs:
API: GetItem
Format: - Purpose: [one line], 
- Parameters: [list], 
- Returns: [description]
Now document the following API:
API: PutItem"""

¡Vamos a practicar!

Giới thiệu về Amazon Bedrock