パフォーマンスの監視

AWS Kinesis と Lambda で学ぶストリーミングデータ

Maksim Pecherskiy

Data Engineer

前回のレッスン

2020-08-02_11-35.png

AWS Kinesis と Lambda で学ぶストリーミングデータ

Lambda 変換

2020-08-02_12-04.png

AWS Kinesis と Lambda で学ぶストリーミングデータ

Lambda 変換

def lambda_handler(event, context):

comprehend = boto3.client('comprehend', region_name='us-east-1', aws_access_key_id = AWS_KEY, aws_secret_access_key=AWS_SECRET)
output = []
for record in event['records']: ...
AWS Kinesis と Lambda で学ぶストリーミングデータ

Lambda 変換

def lambda_handler(event, context):
    ...
    for record in event['records']:

dict_data = base64.b64decode(record['data']).decode('utf-8').strip() dict_data = json.loads(dict_data)
sentiment_all = comprehend.detect_sentiment( Text=dict_data['text'], LanguageCode=dict_data['lang']) dict_data['sentiment'] = sentiment_all['Sentiment'] ...
AWS Kinesis と Lambda で学ぶストリーミングデータ

Lambda 変換

def lambda_handler(event, context):
    ...
    for record in event['records']:
        ...

output_record = { 'recordId': record['recordId'], 'result': 'Ok', 'data': base64.b64encode(json.dumps(dict_data).encode('utf-8')) }
output.append(output_record) return {'records': output}
AWS Kinesis と Lambda で学ぶストリーミングデータ

接続する

2020-08-02_12-19.png

AWS Kinesis と Lambda で学ぶストリーミングデータ

firehoseDeliveryRole を更新

2020-08-03_08-05.png

AWS Kinesis と Lambda で学ぶストリーミングデータ

配信ストリームを作成

2020-08-03_08-10.png

AWS Kinesis と Lambda で学ぶストリーミングデータ

配信ストリームを作成

2020-08-03_08-13.png

AWS Kinesis と Lambda で学ぶストリーミングデータ

CloudWatch

ダウンタイム時のデータ損失を最小化するストリームにします。

  • ログ(生データ)
  • メトリクス(サービス活動の指標)
  • アラーム(メトリクスが範囲外の通知)
  • ダッシュボード(メトリクスの可視化)
AWS Kinesis と Lambda で学ぶストリーミングデータ

障害ポイント

2020-08-02_12-39.png

AWS Kinesis と Lambda で学ぶストリーミングデータ

演習に進みましょう!

AWS Kinesis と Lambda で学ぶストリーミングデータ

Preparing Video For Download...