Calcolo parallelo

Capire il Data Engineering

Hadrien Lacroix

Content Developer at DataCamp

Calcolo parallelo

  • Base degli strumenti moderni di data processing
  • Necessario:
    • Soprattutto per la memoria
    • Anche per la potenza di calcolo
  • Come funziona:
    • Dividi i task in sottotask più piccoli
    • Distribuisci i sottotask su più computer
Capire il Data Engineering

1000 t-shirt

Capire il Data Engineering

addetto alle vendite senior

Capire il Data Engineering

addetto alle vendite junior

1 Emoji di Mohamed Hassan
Capire il Data Engineering

un addetto alle vendite alla volta

Capire il Data Engineering

raggruppare le t-shirt

Capire il Data Engineering

gli addetti junior finiscono in un’ora e quindici minuti

Capire il Data Engineering

gli addetti senior finiscono in due ore e tredici minuti

Capire il Data Engineering

Vantaggi e rischi del calcolo parallelo

  • Dipendenti = unità di elaborazione
  • Vantaggi
    • Più potenza di calcolo
    • Minore uso di memoria
  • Svantaggi
    • Spostare dati ha un costo
    • Tempo di comunicazione
Capire il Data Engineering

confronto tra performance di addetti junior e senior

Capire il Data Engineering

ci vogliono dieci minuti per distribuire le mille t-shirt ai quattro addetti junior

Capire il Data Engineering

ci vogliono cinque minuti per raccogliere le t-shirt dai quattro addetti junior in un’unica pila

Capire il Data Engineering

pipeline dati

Capire il Data Engineering

pipeline dati

Capire il Data Engineering

Riepilogo

  • Vantaggi e rischi
  • Come è implementato in Spotflix
Capire il Data Engineering

Ayo berlatih!

Capire il Data Engineering

Preparing Video For Download...