Appliquer des techniques d'ingénierie des invites

Introduction à Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Few-shot learning

  • Qu'est-ce que le few-shot learning ?
    • Technique pour guider le modèle en donnant quelques exemples dans l'invite
    • Aide le modèle à déduire des motifs et à améliorer la qualité des réponses
  • Avantages clés :
    • Réduit l'ambiguïté de l'invite
    • Produit des résultats plus cohérents et précis

Schéma conceptuel illustrant l'apprentissage par l'exemple.

Introduction à Amazon Bedrock

Few-shot learning avec les modèles

prompt = """Here are examples of AWS service summaries:

Service: Amazon S3
Summary: Object storage service for storing and retrieving any amount of data.

Service: Amazon EC2
Summary: Virtual servers in the cloud for running applications.

Now, write a similar summary for:
Service: AWS Lambda\n\nSummary:"""
Introduction à Amazon Bedrock

Qu'est-ce que le formatage structuré des sorties ?

  • Organise les réponses du modèle dans un format clair et prévisible
  • Idéal pour l'automatisation et l'extraction de données

DOC.png

Introduction à Amazon Bedrock

Contrôler le format de réponse

  • Demander des structures de sortie précises
  • Utiliser des marqueurs clairs pour l'analyse
  • Définir des contraintes de format
prompt = """Analyze AWS Lambda and provide output in this format:
DESCRIPTION:[2-3 sentence description]
KEY FEATURES:
- [feature 1]
- [feature 2]
USE CASES:
1. [use case 1]
2. [use case 2]"""
Introduction à Amazon Bedrock

Créer des invites efficaces

  • Combiner des exemples few-shot avec des invites système
  • Utiliser un formatage structuré avec des exemples
  • Superposer les techniques pour de meilleurs résultats
prompt = """You are an AWS technical writer. 
Here's an example of how to document APIs:
API: GetItem
Format: - Purpose: [one line], 
- Parameters: [list], 
- Returns: [description]
Now document the following API:
API: PutItem"""
Introduction à Amazon Bedrock

Passons à la pratique !

Introduction à Amazon Bedrock

Preparing Video For Download...