Veri zamanlama

Veri Mühendisliğini Anlamak

Hadrien Lacroix

Content Developer at DataCamp

Zamanlama

  • Veri işlemdeki her göreve uygulanabilir
  • Zamanlama sistemin yapıştırıcısıdır
  • Parçaları tutar ve birlikte nasıl çalışacaklarını düzenler
  • Görevleri belirli sırada çalıştırır, bağımlılıkları çözer
Veri Mühendisliğini Anlamak

Elle, zaman ve sensörle zamanlama

  • Elle
  • Çalışan tablosunu elle güncelle
Veri Mühendisliğini Anlamak

veri hattı

Veri Mühendisliğini Anlamak

saat gösteren görsel - çalışanlar tablosu her sabah 6:00'da güncellenir

Veri Mühendisliğini Anlamak

Elle, zaman ve sensörle zamanlama

  • Elle
  • Belirli bir saatte otomatik çalıştırma
  • Belirli bir koşul sağlanınca otomatik çalıştırma
    • Sensörle zamanlama
  • Çalışan tablosunu elle güncelle
  • Çalışan tablosunu saat 6:00'da güncelle
Veri Mühendisliğini Anlamak

veri hattı

Veri Mühendisliğini Anlamak

çalışanlar tablosunu dinleyen ve bölümlere ayırmadan önce bir sensörü gösteren görsel

Veri Mühendisliğini Anlamak

Elle, zaman ve sensörle zamanlama

  • Elle
  • Belirli bir saatte otomatik çalıştırma
  • Belirli bir koşul sağlanınca otomatik çalıştırma
    • Sensörle zamanlama
  • Çalışan tablosunu elle güncelle
  • Çalışan tablosunu saat 6:00'da güncelle
  • Yeni çalışan eklendiğinde bölüm tablolarını güncelle
Veri Mühendisliğini Anlamak

Yığınlar ve akışlar

  • Yığınlar
    • Kayıtları aralıklarla gruplar
    • Genelde daha ucuzdur
  • Akışlar
    • Tekil kayıtları anında gönderir
  • Sanatçıların yüklediği şarkılar
  • Çalışan tablosu
  • Gelir tablosu
  • Kayıt olan yeni kullanıcılar
  • Diğer örnek: çevrimiçi vs. çevrimdışı dinleme
Veri Mühendisliğini Anlamak

Zamanlama araçları

airflow ve luigi logoları

Veri Mühendisliğini Anlamak

Özet

  • Zamanlama nedir
  • Nasıl kurulur
  • Yığın ile akış farkı
  • Spotflix'te nasıl uygulanır
  • Airflow, Luigi
Veri Mühendisliğini Anlamak

Hadi pratik yapalım!

Veri Mühendisliğini Anlamak

Preparing Video For Download...