Aplikace technik prompt engineeringu

Úvod do Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Few-shot learning

  • Co je few-shot learning?
    • Technika vedení modelu pomocí několika příkladů v promptu
    • Pomáhá modelu rozpoznávat vzory a zlepšovat kvalitu odpovědí
  • Klíčové výhody:
    • Snižuje nejednoznačnost promptu
    • Produkuje konzistentnější a přesnější výstupy

Konceptuální diagram znázorňující učení pomocí příkladů.

Úvod do Amazon Bedrock

Few-shot learning s modely

prompt = """Here are examples of AWS service summaries:

Service: Amazon S3
Summary: Object storage service for storing and retrieving any amount of data.

Service: Amazon EC2
Summary: Virtual servers in the cloud for running applications.

Now, write a similar summary for:
Service: AWS Lambda\n\nSummary:"""
Úvod do Amazon Bedrock

Co je strukturované formátování výstupu?

  • Organizuje odpovědi modelu v přehledném a předvídatelném formátu
  • Ideální pro automatizaci a extrakci dat

DOC.png

Úvod do Amazon Bedrock

Řízení formátu odpovědi

  • Požadujte konkrétní struktury výstupu
  • Používejte jasné značky pro parsování
  • Definujte omezení formátu
prompt = """Analyze AWS Lambda and provide output in this format:
DESCRIPTION:[2-3 sentence description]
KEY FEATURES:
- [feature 1]
- [feature 2]
USE CASES:
1. [use case 1]
2. [use case 2]"""
Úvod do Amazon Bedrock

Tvorba efektivních promptů

  • Kombinujte příklady few-shot se systémovými prompty
  • Používejte strukturované formátování s příklady
  • Vrstvěte techniky pro lepší výsledky
prompt = """You are an AWS technical writer. 
Here's an example of how to document APIs:
API: GetItem
Format: - Purpose: [one line], 
- Parameters: [list], 
- Returns: [description]
Now document the following API:
API: PutItem"""
Úvod do Amazon Bedrock

Pojďme si procvičit!

Úvod do Amazon Bedrock

Preparing Video For Download...