Was sind Datenbereinigung und -aufbereitung?

Datenaufbereitung in Alteryx

Deanna Sanchez

Alteryx ACE and Owner, Nova Geographica LLC

Warum sind saubere Daten wichtig?

GIGO: „Garbage In, Garbage Out“

  • Daten bereinigen und vorbereiten hilft dir:
    • Fehler vermeiden und verhindern
    • Daten und Formate standardisieren
    • Produktivität steigern
    • Schneller zu Erkenntnissen kommen

Darstellung von Müll, der in eine Datenbank hinein- und wieder herausgeht

Datenaufbereitung in Alteryx

Daten bereinigen ist wie …

Auto-Tuning – Mit sauberen Komponenten und frischen Flüssigkeiten läuft dein Auto besser.

 

Ein Bild eines Mechanikers, der ein Auto wartet

Datenaufbereitung in Alteryx

Beispiele für „Dirty Data“

  • Fehlende oder unvollständige Daten

Datentabelle mit fehlenden Daten wie leeren Zellen

Datenaufbereitung in Alteryx

Beispiele für „Dirty Data“

  • Fehlende oder unvollständige Daten
  • Nicht standardisierte oder inkonsistente Daten

Datentabelle mit Inkonsistenzen wie Großbuchstaben gemischt mit Titel-Schreibung

Datenaufbereitung in Alteryx

Beispiele für „Dirty Data“

  • Fehlende oder unvollständige Daten
  • Nicht standardisierte oder inkonsistente Daten
  • Tippfehler bei der Dateneingabe

Datentabelle mit Eingabefehlern wie zu vielen Ziffern

Datenaufbereitung in Alteryx

Beispiele für „Dirty Data“

  • Fehlende oder unvollständige Daten
  • Nicht standardisierte oder inkonsistente Daten
  • Tippfehler bei der Dateneingabe
  • Führende/abschließende Leerzeichen sowie unnötige Zeichen oder Satzzeichen

Datentabelle mit unnötiger Interpunktion wie Dollarzeichen bei numerischen Daten

Datenaufbereitung in Alteryx

Techniken zur Datenbereinigung

Fehlende Daten handhaben

  • Fehlende Daten markieren durch Imputation, z. B.:
    • Nullwerte bei Strings in Leerzeichen umwandeln
    • Nullwerte bei Zahlen auf 0 setzen
  • Fehlende Daten aus dem Datenstrom filtern

Ein Bild von Analyst:innen, die mit Lupe und Besen Daten säubern

Datenaufbereitung in Alteryx

Techniken zur Datenbereinigung

Daten standardisieren

  • Formatierung sicherstellen
    • $ zu Währungen hinzufügen
    • 000123456
  • Namenskonventionen für Feld- und Dateinamen prüfen
    • "filename_01012004.csv"
  • Groß-/Kleinschreibung in einem Feld anpassen
    • LOCATION
  • Datentypen ändern

Ein Bild einer Analystin, die Daten in passende Ordner ablegt

Datenaufbereitung in Alteryx

Techniken zur Datenbereinigung

Überflüssiges entfernen

  • Führende/abschließende Leerzeichen
  • Tabs und Zeilenumbrüche
  • Nicht benötigte Zeilen oder Spalten
  • Unnötige Satzzeichen, Buchstaben und Zahlen

Ein Bild von Bauarbeiter:innen, die Datendateien säubern

Datenaufbereitung in Alteryx

Profil mit Farbcode

Die Farbkennzeichnung im Fenster „Results“ und im Profil leitet die Datenbereinigung.

  • Grün = OK

OK-Farbprofil

Datenaufbereitung in Alteryx

Profil mit Farbcode

Die Farbkennzeichnung im Fenster „Results“ und im Profil leitet die Datenbereinigung.

  • Grün = OK
  • Weiß = Eindeutig

OK- und Eindeutig-Farbprofile

Datenaufbereitung in Alteryx

Profil mit Farbcode

Die Farbkennzeichnung im Fenster „Results“ und im Profil leitet die Datenbereinigung.

  • Grün = OK
  • Weiß = Eindeutig
  • Gelb = Null

OK-, Eindeutig- und Null-Farbprofile

Datenaufbereitung in Alteryx

Profil mit Farbcode

Die Farbkennzeichnung im Fenster „Results“ und im Profil leitet die Datenbereinigung.

  • Grün = OK
  • Weiß = Eindeutig
  • Gelb = Null
  • Rot = Nicht OK (z. B. nachgestellte Leerzeichen)

OK-, Eindeutig-, Null- und Nicht-OK-Farbprofile

Datenaufbereitung in Alteryx

Profil mit Farbcode

Die Farbkennzeichnung im Fenster „Results“ und im Profil leitet die Datenbereinigung.

  • Grün = OK
  • Weiß = Eindeutig
  • Gelb = Null
  • Rot = Nicht OK (z. B. nachgestellte Leerzeichen)
  • Grau = Leer

Alle Farbprofile

Datenaufbereitung in Alteryx

Datentypen in Alteryx

Tabelle mit angezeigtem Boolean-Datentyp

  • Verschiedene Datentypen kennen
    • Wie und wann nutzen
  • Fünf Hauptkategorien
    • Boolean – binäre Formate
Datenaufbereitung in Alteryx

Datentypen in Alteryx

Tabelle mit Boolean und Numeric

  • Verschiedene Datentypen kennen
    • Wie und wann nutzen
  • Fünf Hauptkategorien
    • Boolean – binäre Formate
    • Numeric – Zahlendaten, inkl. Double
Datenaufbereitung in Alteryx

Datentypen in Alteryx

Tabelle mit Boolean, Numeric und String

  • Verschiedene Datentypen kennen
    • Wie und wann nutzen
  • Fünf Hauptkategorien
    • Boolean – binäre Formate
    • Numeric – Zahlendaten, inkl. Double
    • String – Textdaten
1 String, von String 2 bis V_W String-Typen.
Datenaufbereitung in Alteryx

Datentypen in Alteryx

Tabelle mit vier Datentypen – Boolean, Numeric, String und DateTime

  • Verschiedene Datentypen kennen
    • Wie und wann nutzen
  • Fünf Hauptkategorien
    • Boolean – binäre Formate
    • Numeric – Zahlendaten, inkl. Double
    • String – Textdaten
    • DateTime – Datums- und Zeitdaten
Datenaufbereitung in Alteryx

Datentypen in Alteryx

Tabelle mit allen fünf Hauptdatentypen

  • Verschiedene Datentypen kennen
    • Wie und wann nutzen
  • Fünf Hauptkategorien
    • Boolean – binäre Formate
    • Numeric – Zahlendaten, inkl. Double
    • String – Textdaten
    • DateTime – Datums- und Zeitdaten
    • Spatial – räumliche Objekte und Punkte
Datenaufbereitung in Alteryx

Details zum Datensatz

  • Alteryx-Praktikumsaufgaben:
    • New York City Property Sales
    • Ein Datensatz für alle Übungen
    • Analyse der höchsten Verkäufe

Ein Bild der Skyline von New York City

Datenaufbereitung in Alteryx

Lass uns üben!

Datenaufbereitung in Alteryx

Preparing Video For Download...