Diffusion des données

Comprendre les architectures de données modernes

Miller Trujillo

Senior Software Engineer

Couche de diffusion

Architecture Big Data générique incluant sources, ingestion, stockage, traitement, orchestration, gouvernance, diffusion, stockage analytique et reporting

  • Où stocker les données traitées
  • Protocoles pour les consommer
Comprendre les architectures de données modernes

Quelles données avons-nous ?

  • Quelles données avons-nous ?
    • Données structurées ?
    • Série temporelle ?
  • Comment seront-elles consommées ?

Dépôt de données

  • Data Warehouse
    • Reporting/Dashboards automatisés
    • BI/Analytics
    • Requêtes directes
  • Stockage objet (blob)
  • Base de données de séries temporelles
  • Base NoSQL
Comprendre les architectures de données modernes

Comment les données seront-elles consommées ?

  • Data warehouse
    • Reporting/Dashboards automatisés
    • BI/Data analytics
    • Requêtes directes
  • Modèles de Machine Learning
  • Applications
    • Informations synthétiques
    • Enregistrements individuels
  • Pas de solution unique !

Python & R

API/Compute

Comprendre les architectures de données modernes

Diffuser vos données selon l’usage

Système Type de données Cas d’usage de consommation Outils
Data warehouse Données structurées, gère le semi-structuré Requêtes analytiques, BI/Analytics, reporting/dashboards BigQuery, Redshift, Snowflake
Stockage objet Tous types de données Modèles ML avec vidéo/image, archivage S3, Cloud Storage, Azure Storage
Base NoSQL Données semi-structurées, séries temporelles Exposition via API, forte charge BigTable, DataStore, DynamoDB, CosmosDB
SGBDR Données structurées, gère le semi-structuré Consommation d’enregistrements, exposition API, charge modérée Postgres, MySQL, Oracle
Comprendre les architectures de données modernes

Diffuser vs. Consommer

Diffusion vs. consommation des données

Comprendre les architectures de données modernes

Passons à la pratique !

Comprendre les architectures de données modernes

Preparing Video For Download...