Доступ до Amazon Bedrock

Вступ до Amazon Bedrock

Nikhil Rangarajan

Data Scientist

Познайомтесь з інструктором!

  • Інженер з машинного навчання
  • Хмарні технології (AWS, Azure)
  • Інженерія даних, хмари та обчислень

Фотографія профілю інструктора

Вступ до Amazon Bedrock

Що таке Amazon Bedrock?

  • Сервіс Amazon

Логотипи AWS та Amazon Bedrock

Вступ до Amazon Bedrock

Що таке Amazon Bedrock?

  • Сервіс Amazon
  • Моделі ШІ викликаються через API
    • API: «посередник» між програмними системами
  • Bedrock надає доступ до моделей від Anthropic, Meta тощо
  • Не потрібно налаштовувати чи навчати моделі — оплата за використання

Логотипи AWS і Amazon Bedrock та схема API.

Вступ до Amazon Bedrock

Foundation models у генеративному ШІ

  • Попередньо навчені моделі
  • База для різних завдань ШІ
  • Генерують текст, код, зображення за підказками
    • Текст/чат: Claude, Jurassic
    • Зображення: Stable Diffusion
    • Вбудовування: Titan

 

Схема: в центрі Foundation Model, від якої стрілки ведуть до Text/Chat, Embeddings, Code та Images.

Вступ до Amazon Bedrock

Розуміння доступу до Amazon Bedrock

Примітка: Упродовж цього курсу Access Key і Secret Key уже попередньо завантажені.

 

  • Увімкніть доступ до Bedrock в AWS:
    • Створіть користувача IAM в AWS Console
    • Додайте Amazon Bedrock Full Access
    • Отримайте облікові дані:
      • Access Key
      • Secret Key
      • Регіон (напр., 'us-east-1')

Блок-схема з трьома кроками для доступу до Amazon Bedrock в AWS. Крок 1: створіть IAM User, Крок 2: додайте Bedrock Access, Крок 3: отримайте облікові дані.

Вступ до Amazon Bedrock

Налаштування доступу до середовища виконання Bedrock

  • Налаштуйте облікові дані AWS у своєму середовищі
# Не безпечно для продакшну, лише для навчальних цілей
AWS_REGION = 'us-east-1'

AWS_ACCESS_KEY = 'your-access-key'

AWS_SECRET_KEY = 'your-secret-key'
  • Ініціалізуйте клієнт Bedrock
  • Використовуйте 'bedrock-runtime' для інференсу моделей
    import boto3 
bedrock = boto3.client('bedrock-runtime', # use -runtime
  region_name=AWS_REGION,
  aws_access_key_id=AWS_ACCESS_KEY,
  aws_secret_access_key=AWS_SECRET_KEY)
Вступ до Amazon Bedrock

Налаштування доступу до Bedrock

  • Перевірте стан ініціалізації клієнта
  • Використовуйте 'bedrock' для операційних запитів

 

# Перевірка конфігурації клієнта Bedrock
import boto3
bedrock_client = boto3.client('bedrock', region_name='us-east-1')

models = bedrock_client.list_foundation_models()
print(f"Connected successfully! 
      Found {len(models['modelSummaries'])} available models.")

Connected successfully!  Found 13 available models.
Вступ до Amazon Bedrock

Інформація про foundation models

  • Використайте get_foundation_model() для отримання деталей моделі

 

  • Потрібен ModelID — унікальний ідентифікатор
    • Приклад: amazon.nova-2-lite-v1:0, anthropic.claude-sonnet-4-5-20250929-v1:0

 

response = bedrock_client.get_foundation_model
    (modelIdentifier='anthropic.claude-sonnet-4-5-20250929-v1:0')

print(response['modelDetails'])
Вступ до Amazon Bedrock

Інформація про foundation models

{'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-sonnet-4-5...',
 'modelId': 'anthropic.claude-sonnet-4-5-20250929-v1:0',
 'modelName': 'Claude Sonnet 4.5',
 'providerName': 'Anthropic',
 'inputModalities': ['TEXT', 'IMAGE'],
 'outputModalities': ['TEXT'],
 'responseStreamingSupported': True,
 'customizationsSupported': [],
 'inferenceTypesSupported': ['INFERENCE_PROFILE'],
 'modelLifecycle': {'status': 'ACTIVE', 'startOfLifeTime': ...}
Вступ до Amazon Bedrock

Давайте потренуємось!

Вступ до Amazon Bedrock

Preparing Video For Download...