Aplicarea tehnicilor de inginerie a prompturilor

Introducere în Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Învățarea few-shot

Ce este învățarea few-shot?
- O tehnică de ghidare a modelului prin câteva exemple în prompt
- Ajută modelul să identifice tipare și să îmbunătățească răspunsurile
Beneficii principale:
- Reduce ambiguitatea promptului
- Produce rezultate mai consistente și mai precise

Diagramă conceptuală reprezentând învățarea prin exemple.

Învățarea few-shot cu modele

prompt = """Here are examples of AWS service summaries:

Service: Amazon S3
Summary: Object storage service for storing and retrieving any amount of data.

Service: Amazon EC2
Summary: Virtual servers in the cloud for running applications.

Now, write a similar summary for:
Service: AWS Lambda\n\nSummary:"""

Ce este formatarea structurată a ieșirilor?

Organizează răspunsurile modelului într-un format clar și previzibil
Ideal pentru automatizare și extragerea datelor

Controlul formatului răspunsului

Solicitați structuri de ieșire specifice
Utilizați marcatori clari pentru parsare
Definiți constrângerile de format

prompt = """Analyze AWS Lambda and provide output in this format:
DESCRIPTION:[2-3 sentence description]
KEY FEATURES:
- [feature 1]
- [feature 2]
USE CASES:
1. [use case 1]
2. [use case 2]"""

Crearea prompturilor eficiente

Combinați exemple few-shot cu prompturi de sistem
Utilizați formatare structurată cu exemple
Combinați tehnici pentru rezultate mai bune

prompt = """You are an AWS technical writer. 
Here's an example of how to document APIs:
API: GetItem
Format: - Purpose: [one line], 
- Parameters: [list], 
- Returns: [description]
Now document the following API:
API: PutItem"""

Să exersăm!

Introducere în Amazon Bedrock