Stosowanie technik prompt engineeringu

Wprowadzenie do Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Uczenie few-shot

Czym jest uczenie few-shot?
- Technika kierowania modelem poprzez podanie kilku przykładów w prompcie
- Pomaga modelowi rozpoznawać wzorce i poprawiać jakość odpowiedzi
Główne korzyści:
- Zmniejsza niejednoznaczność promptu
- Daje bardziej spójne i dokładne wyniki

Diagram koncepcyjny ilustrujący uczenie przez przykład.

Uczenie few-shot z modelami

prompt = """Here are examples of AWS service summaries:

Service: Amazon S3
Summary: Object storage service for storing and retrieving any amount of data.

Service: Amazon EC2
Summary: Virtual servers in the cloud for running applications.

Now, write a similar summary for:
Service: AWS Lambda\n\nSummary:"""

Czym jest formatowanie ustrukturyzowanego wyjścia?

Organizuje odpowiedzi modelu w czytelnym, przewidywalnym formacie
Idealne do automatyzacji i ekstrakcji danych

Kontrolowanie formatu odpowiedzi

Żądanie określonych struktur wyjściowych
Używanie wyraźnych znaczników do parsowania
Definiowanie ograniczeń formatu

prompt = """Analyze AWS Lambda and provide output in this format:
DESCRIPTION:[2-3 sentence description]
KEY FEATURES:
- [feature 1]
- [feature 2]
USE CASES:
1. [use case 1]
2. [use case 2]"""

Tworzenie skutecznych promptów

Łączenie przykładów few-shot z promptami systemowymi
Używanie formatowania strukturalnego z przykładami
Łączenie technik dla lepszych wyników

prompt = """You are an AWS technical writer. 
Here's an example of how to document APIs:
API: GetItem
Format: - Purpose: [one line], 
- Parameters: [list], 
- Returns: [description]
Now document the following API:
API: PutItem"""

Czas na ćwiczenia!

Wprowadzenie do Amazon Bedrock