Getting ready for the first stream

Streaming de dados com AWS Kinesis e Lambda

Maksim Pecherskiy

Data Engineer

End goal

chapter1_take_ms_liQuR.png

Streaming de dados com AWS Kinesis e Lambda

End goal

gGuLC.png

Streaming de dados com AWS Kinesis e Lambda

End goal

IIFUE.png

Streaming de dados com AWS Kinesis e Lambda

End goal

XpcGO.png

Streaming de dados com AWS Kinesis e Lambda

p5yig.png

Streaming de dados com AWS Kinesis e Lambda

dcUser

Drh4F.png

Streaming de dados com AWS Kinesis e Lambda

A destination S3 bucket

s3 = boto3.client('s3', 
                  aws_access_key_id=AWS_KEY_ID, 
                  aws_secret_access_key=AWS_SECRET, 
                  region_name='us-east-1')
s3.create_bucket(Bucket='sd-vehicle-data')
Streaming de dados com AWS Kinesis e Lambda

LDGmc.png

Streaming de dados com AWS Kinesis e Lambda

bFQoE.png

Streaming de dados com AWS Kinesis e Lambda

Add permissions to user

SSdiv.png

Streaming de dados com AWS Kinesis e Lambda

Add permissions to user

Yqb6Y.png

Streaming de dados com AWS Kinesis e Lambda

Add permissions to user

M4HOZ.png

Streaming de dados com AWS Kinesis e Lambda

Add permissions to user

NBLCR.png

Streaming de dados com AWS Kinesis e Lambda

Add permissions to user

ncOZ7.png

Streaming de dados com AWS Kinesis e Lambda

Add permissions to user

1xvfb.png

Streaming de dados com AWS Kinesis e Lambda

New powers

bEbSB.png

Streaming de dados com AWS Kinesis e Lambda

A note on security

MBXWT.png

Streaming de dados com AWS Kinesis e Lambda

A note on security

OsJnK.png

Streaming de dados com AWS Kinesis e Lambda

vroeW.png

Streaming de dados com AWS Kinesis e Lambda

New powers

bEbSB.png

Streaming de dados com AWS Kinesis e Lambda

Streaming de dados com AWS Kinesis e Lambda

Firehose stream permissions

m1sn3.png

Streaming de dados com AWS Kinesis e Lambda

BLo0S.png

Streaming de dados com AWS Kinesis e Lambda

RAFOr.png

Streaming de dados com AWS Kinesis e Lambda

vx0iX.png

Streaming de dados com AWS Kinesis e Lambda

xVkJU.png

Streaming de dados com AWS Kinesis e Lambda

Roles vs users

rGbOt.png

  • Live in IAM
  • Have permissions policies
  • Only attach to other services
  • Do not have keys nor login

qQ1pa.png

  • Live in IAM
  • Have permissions policies
  • Can act on their own
  • Can have keys or login
Streaming de dados com AWS Kinesis e Lambda

Review - end goal

WlEwO.png

Streaming de dados com AWS Kinesis e Lambda

Review

m0gxE.png

Streaming de dados com AWS Kinesis e Lambda

Review

Drh4F.png

Streaming de dados com AWS Kinesis e Lambda

Review

BLo0S.png

Streaming de dados com AWS Kinesis e Lambda

Let's do it!

Streaming de dados com AWS Kinesis e Lambda

Preparing Video For Download...