Accesso ad Amazon Bedrock

Introduzione ad Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Conosci l’istruttore!

Machine Learning Engineer
Tecnologie cloud (AWS, Azure)
Ingegneria dei dati, cloud e informatica

La foto profilo dell’istruttore

Cos’è Amazon Bedrock?

Servizio di Amazon

I loghi di AWS e Amazon Bedrock

Cos’è Amazon Bedrock?

Servizio di Amazon
Modelli di IA chiamati via API
- API: un “messaggero” tra sistemi software
Bedrock dà accesso a modelli di aziende come Anthropic, Meta, ecc.
Nessun setup o training del modello: paghi a consumo

Loghi AWS e Amazon Bedrock, e un diagramma di un’API.

Foundation model nell’IA generativa

Modelli pre-addestrati
Base per più attività di IA
Generano testo, codice, immagini da prompt
- Testo/Chat: Claude, Jurassic
- Immagini: Stable Diffusion
- Embedding: Titan

Schema con un Foundation Model al centro e quattro frecce verso: Text/Chat, Embeddings, Code e Images.

Capire l’accesso ad Amazon Bedrock

Nota: In tutto il corso, Access Key e Secret Key sono già caricate.

Abilita Bedrock su AWS:
- Crea un utente IAM nella Console AWS
- Aggiungi Amazon Bedrock Full Access
- Recupera le credenziali:
  - Access Key
  - Secret Key
  - Region (es.: 'us-east-1')

Un flusso in tre passi per abilitare l’accesso ad Amazon Bedrock in AWS. Passo 1: Crea utente IAM, Passo 2: Aggiungi accesso a Bedrock, Passo 3: Ottieni credenziali.

Configurare l’accesso al runtime di Bedrock

Configura le credenziali AWS nell’ambiente

# Non sicuro in produzione, solo a scopo didattico
AWS_REGION = 'us-east-1'

AWS_ACCESS_KEY = 'your-access-key'

AWS_SECRET_KEY = 'your-secret-key'

Inizializza il client Bedrock

Usa 'bedrock-runtime' per l’inferenza

import boto3 
bedrock = boto3.client('bedrock-runtime', # use -runtime
  region_name=AWS_REGION,
  aws_access_key_id=AWS_ACCESS_KEY,
  aws_secret_access_key=AWS_SECRET_KEY)

Configurare l’accesso a Bedrock

Verifica l’inizializzazione del client
Usa 'bedrock' per richieste operative

# Verifica configurazione del client Bedrock
import boto3
bedrock_client = boto3.client('bedrock', region_name='us-east-1')

models = bedrock_client.list_foundation_models()
print(f"Connected successfully! 
      Found {len(models['modelSummaries'])} available models.")

Connected successfully!  Found 13 available models.

Info sui foundation model

Usa get_foundation_model() per i dettagli del modello

Serve un ModelID, identificatore univoco
- Esempi: amazon.nova-micro-v1:0, anthropic.claude-3-5-sonnet-v2:0

response = bedrock_client.get_foundation_model
    (modelIdentifier='anthropic.claude-3-5-sonnet-v2:0')

print(response)

Info sui foundation model

{
 'modelDetails': {

   'modelName': 'anthropic.claude-3-5-sonnet-v2:0',
   'modelId': 'anthropic.claude-3-5-sonnet-v2:0',
   'providerName': 'Anthropic',
   'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-5-sonnet',

   'inputModalities': ['TEXT'],
   'outputModalities': ['TEXT'],
   'responseStreamingSupported': True,
   'inferenceTypesSupported': ['ON_DEMAND'],
   'modelLifecycle': {'status': 'ACTIVE'}

   }
}

Ayo berlatih!

Introduzione ad Amazon Bedrock