Truy cập Amazon Bedrock

Giới thiệu về Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Gặp giảng viên của bạn!

Kỹ sư Machine Learning
Công nghệ đám mây (AWS, Azure)
Kỹ thuật Dữ liệu, Đám mây, Máy tính

Ảnh hồ sơ của giảng viên

Amazon Bedrock là gì?

Dịch vụ của Amazon

Logo AWS và Amazon Bedrock

Amazon Bedrock là gì?

Dịch vụ của Amazon
Gọi các mô hình AI qua API
- API: trình trung gian giữa các hệ thống phần mềm
Bedrock cung cấp truy cập các mô hình từ Anthropic, Meta, v.v.
Không cần thiết lập hay huấn luyện mô hình - trả phí theo mức dùng

Logo AWS và Amazon Bedrock, cùng sơ đồ API.

Mô hình nền tảng trong Generative AI

Mô hình tiền huấn luyện
Nền tảng cho nhiều tác vụ AI
Sinh văn bản, mã, ảnh từ prompt
- Văn bản/Chat: Claude, Jurassic
- Ảnh: Stable Diffusion
- Embedding: Titan

Sơ đồ với một Mô hình nền tảng ở giữa, bốn mũi tên ra ngoài nối tới: Text/Chat, Embeddings, Code và Images.

Hiểu quyền truy cập Amazon Bedrock

Lưu ý: Trong khóa học này, Access Key và Secret Key đã được nạp sẵn.

Bật truy cập Bedrock trong AWS:
- Tạo IAM User trong AWS Console
- Thêm Amazon Bedrock Full Access
- Lấy thông tin xác thực:
  - Access Key
  - Secret Key
  - Region (ví dụ: 'us-east-1')

Lưu đồ ba bước để bật truy cập Amazon Bedrock trên AWS. Bước 1: Tạo IAM User, Bước 2: Thêm quyền Bedrock, Bước 3: Lấy Credentials.

Thiết lập truy cập Bedrock runtime

Cấu hình AWS credentials trong môi trường

# Không an toàn cho sản xuất, chỉ dùng để giảng dạy
AWS_REGION = 'us-east-1'

AWS_ACCESS_KEY = 'your-access-key'

AWS_SECRET_KEY = 'your-secret-key'

Khởi tạo client Bedrock

Dùng 'bedrock-runtime' để suy luận mô hình

import boto3 
bedrock = boto3.client('bedrock-runtime', # use -runtime
  region_name=AWS_REGION,
  aws_access_key_id=AWS_ACCESS_KEY,
  aws_secret_access_key=AWS_SECRET_KEY)

Thiết lập truy cập Bedrock

Kiểm tra trạng thái khởi tạo client
Dùng 'bedrock' cho yêu cầu vận hành

# Xác minh cấu hình client Bedrock
import boto3
bedrock_client = boto3.client('bedrock', region_name='us-east-1')

models = bedrock_client.list_foundation_models()
print(f"Connected successfully! 
      Found {len(models['modelSummaries'])} available models.")

Connected successfully!  Found 13 available models.

Thông tin về mô hình nền tảng

Dùng get_foundation_model() để lấy chi tiết mô hình

Cần ModelID, định danh duy nhất
- Ví dụ: amazon.nova-2-lite-v1:0, anthropic.claude-sonnet-4-5-20250929-v1:0

response = bedrock_client.get_foundation_model
    (modelIdentifier='anthropic.claude-sonnet-4-5-20250929-v1:0')

print(response['modelDetails'])

Thông tin về mô hình nền tảng

{'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-sonnet-4-5...',
 'modelId': 'anthropic.claude-sonnet-4-5-20250929-v1:0',
 'modelName': 'Claude Sonnet 4.5',
 'providerName': 'Anthropic',
 'inputModalities': ['TEXT', 'IMAGE'],
 'outputModalities': ['TEXT'],
 'responseStreamingSupported': True,
 'customizationsSupported': [],
 'inferenceTypesSupported': ['INFERENCE_PROFILE'],
 'modelLifecycle': {'status': 'ACTIVE', 'startOfLifeTime': ...}

Ayo berlatih!

Giới thiệu về Amazon Bedrock