Mengakses Amazon Bedrock

Pengantar Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Kenali instruktur Anda!

  • Machine Learning Engineer
  • Teknologi Cloud (AWS, Azure)
  • Rekayasa Data, Cloud, dan Komputer

Foto profil instruktur

Pengantar Amazon Bedrock

Apa itu Amazon Bedrock?

  • Layanan Amazon

Logo AWS dan Amazon Bedrock

Pengantar Amazon Bedrock

Apa itu Amazon Bedrock?

  • Layanan Amazon
  • Model AI dipanggil via API
    • API: perantara antar sistem perangkat lunak
  • Bedrock memberi akses ke model dari perusahaan seperti Anthropic, Meta, dll.
  • Tanpa setup/pelatihan model — bayar sesuai pakai

Logo AWS dan Amazon Bedrock, serta diagram API.

Pengantar Amazon Bedrock

Foundation model dalam Generative AI

  • Model pra-latih
  • Dasar untuk berbagai tugas AI
  • Menghasilkan teks, kode, gambar dari prompt
    • Teks/Chat: Claude, Jurassic
    • Gambar: Stable Diffusion
    • Embedding: Titan

 

Diagram menampilkan sebuah Foundation Model di tengah dengan empat panah keluar ke kemampuan: Text/Chat, Embeddings, Code, dan Images.

Pengantar Amazon Bedrock

Memahami akses ke Amazon Bedrock

Catatan: Sepanjang kursus ini, Access Key dan Secret Key sudah dimuat.

 

  • Aktifkan akses Bedrock di AWS:
    • Buat IAM User di AWS Console
    • Tambahkan Amazon Bedrock Full Access
    • Dapatkan kredensial akses:
      • Access Key
      • Secret Key
      • Region (mis. 'us-east-1')

Bagan alur tiga langkah untuk mengaktifkan akses Amazon Bedrock di AWS. Langkah 1: Buat IAM User, Langkah 2: Tambahkan Bedrock Access, Langkah 3: Dapatkan Kredensial.

Pengantar Amazon Bedrock

Menyiapkan akses runtime Bedrock

  • Konfigurasikan kredensial AWS di lingkungan Anda
# Tidak aman untuk produksi, hanya untuk pembelajaran
AWS_REGION = 'us-east-1'

AWS_ACCESS_KEY = 'your-access-key'

AWS_SECRET_KEY = 'your-secret-key'
  • Inisialisasi klien Bedrock
  • Gunakan 'bedrock-runtime' untuk inferensi model
    import boto3 
bedrock = boto3.client('bedrock-runtime', # use -runtime
  region_name=AWS_REGION,
  aws_access_key_id=AWS_ACCESS_KEY,
  aws_secret_access_key=AWS_SECRET_KEY)
Pengantar Amazon Bedrock

Menyiapkan akses Bedrock

  • Periksa status inisialisasi klien
  • Gunakan 'bedrock' untuk permintaan operasional

 

# Verifikasi konfigurasi klien Bedrock
import boto3
bedrock_client = boto3.client('bedrock', region_name='us-east-1')

models = bedrock_client.list_foundation_models()
print(f"Connected successfully! 
      Found {len(models['modelSummaries'])} available models.")

Connected successfully!  Found 13 available models.
Pengantar Amazon Bedrock

Info tentang foundation model

  • Gunakan get_foundation_model() untuk mengambil detail model

 

  • Butuh ModelID, pengenal unik
    • Contoh: amazon.nova-micro-v1:0, anthropic.claude-3-5-sonnet-v2:0

 

response = bedrock_client.get_foundation_model
    (modelIdentifier='anthropic.claude-3-5-sonnet-v2:0')

print(response)
Pengantar Amazon Bedrock

Info tentang foundation model

{
 'modelDetails': {

   'modelName': 'anthropic.claude-3-5-sonnet-v2:0',
   'modelId': 'anthropic.claude-3-5-sonnet-v2:0',
   'providerName': 'Anthropic',
   'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-5-sonnet',

   'inputModalities': ['TEXT'],
   'outputModalities': ['TEXT'],
   'responseStreamingSupported': True,
   'inferenceTypesSupported': ['ON_DEMAND'],
   'modelLifecycle': {'status': 'ACTIVE'}

   }
}
Pengantar Amazon Bedrock

Ayo berlatih!

Pengantar Amazon Bedrock

Preparing Video For Download...