Getting ready for the first stream

Datenstreaming mit AWS Kinesis und Lambda

Maksim Pecherskiy

Data Engineer

End goal

chapter1_take_ms_liQuR.png

Datenstreaming mit AWS Kinesis und Lambda

End goal

gGuLC.png

Datenstreaming mit AWS Kinesis und Lambda

End goal

IIFUE.png

Datenstreaming mit AWS Kinesis und Lambda

End goal

XpcGO.png

Datenstreaming mit AWS Kinesis und Lambda

p5yig.png

Datenstreaming mit AWS Kinesis und Lambda

dcUser

Drh4F.png

Datenstreaming mit AWS Kinesis und Lambda

A destination S3 bucket

s3 = boto3.client('s3', 
                  aws_access_key_id=AWS_KEY_ID, 
                  aws_secret_access_key=AWS_SECRET, 
                  region_name='us-east-1')
s3.create_bucket(Bucket='sd-vehicle-data')
Datenstreaming mit AWS Kinesis und Lambda

LDGmc.png

Datenstreaming mit AWS Kinesis und Lambda

bFQoE.png

Datenstreaming mit AWS Kinesis und Lambda

Add permissions to user

SSdiv.png

Datenstreaming mit AWS Kinesis und Lambda

Add permissions to user

Yqb6Y.png

Datenstreaming mit AWS Kinesis und Lambda

Add permissions to user

M4HOZ.png

Datenstreaming mit AWS Kinesis und Lambda

Add permissions to user

NBLCR.png

Datenstreaming mit AWS Kinesis und Lambda

Add permissions to user

ncOZ7.png

Datenstreaming mit AWS Kinesis und Lambda

Add permissions to user

1xvfb.png

Datenstreaming mit AWS Kinesis und Lambda

New powers

bEbSB.png

Datenstreaming mit AWS Kinesis und Lambda

A note on security

MBXWT.png

Datenstreaming mit AWS Kinesis und Lambda

A note on security

OsJnK.png

Datenstreaming mit AWS Kinesis und Lambda

vroeW.png

Datenstreaming mit AWS Kinesis und Lambda

New powers

bEbSB.png

Datenstreaming mit AWS Kinesis und Lambda

Datenstreaming mit AWS Kinesis und Lambda

Firehose stream permissions

m1sn3.png

Datenstreaming mit AWS Kinesis und Lambda

BLo0S.png

Datenstreaming mit AWS Kinesis und Lambda

RAFOr.png

Datenstreaming mit AWS Kinesis und Lambda

vx0iX.png

Datenstreaming mit AWS Kinesis und Lambda

xVkJU.png

Datenstreaming mit AWS Kinesis und Lambda

Roles vs users

rGbOt.png

  • Live in IAM
  • Have permissions policies
  • Only attach to other services
  • Do not have keys nor login

qQ1pa.png

  • Live in IAM
  • Have permissions policies
  • Can act on their own
  • Can have keys or login
Datenstreaming mit AWS Kinesis und Lambda

Review - end goal

WlEwO.png

Datenstreaming mit AWS Kinesis und Lambda

Review

m0gxE.png

Datenstreaming mit AWS Kinesis und Lambda

Review

Drh4F.png

Datenstreaming mit AWS Kinesis und Lambda

Review

BLo0S.png

Datenstreaming mit AWS Kinesis und Lambda

Let's do it!

Datenstreaming mit AWS Kinesis und Lambda

Preparing Video For Download...