Manipuler des données avec la syntaxe SQL

Traitement des données en Shell

Susan Sun

Data Person

csvsql : documentation

csvsql :

  • applique des instructions SQL à un ou plusieurs fichiers CSV
  • crée une base de données SQL en mémoire qui héberge temporairement le fichier traité
  • convient seulement aux fichiers petits à moyens

Documentation :

csvsql -h
usage: csvsql [-h] [-d DELIMITER] [-t] [-q QUOTECHAR] [-u {0,1,2,3}] [-b]
              [-p ESCAPECHAR] [-z FIELD_SIZE_LIMIT] [-e ENCODING] [-L LOCALE]
Traitement des données en Shell

csvsql : appliquer du SQL à un CSV local

Exemple de syntaxe :

ls
Spotify_MusicAttributes.csv
Traitement des données en Shell

csvsql : appliquer du SQL à un CSV local

Exemple de syntaxe :

csvsql --query "SELECT * FROM Spotify_MusicAttributes LIMIT 1" \
    Spotify_MusicAttributes.csv
track_id,danceability,duration_ms,instrumentalness,loudness,tempo,time_signature
118GQ70Sp6pMqn6w1oKuki,0.787,124016.0,0.784,-10.457,119.988,4.0
Traitement des données en Shell

csvsql : appliquer du SQL à un CSV local

Exemple de syntaxe :

csvsql --query "SELECT * FROM Spotify_MusicAttributes LIMIT 1" \
    data/Spotify_MusicAttributes.csv | csvlook
| track_id               | danceability | duration_ms | instrumentalness ...
| ---------------------- | ------------ | ----------- | ---------------- ...
| 118GQ70Sp6pMqn6w1oKuki |        0.787 |     124,016 |            0.784 ...
Traitement des données en Shell

csvsql : appliquer du SQL à un CSV local

Exemple de syntaxe :

csvsql --query "SELECT * FROM Spotify_MusicAttributes LIMIT 1" \
    data/Spotify_MusicAttributes.csv > OneSongFile.csv
ls
OneSongFile.csv
Traitement des données en Shell

csvsql : joindre des CSV avec la syntaxe SQL

Exemple de syntaxe :

csvsql --query "SELECT * FROM file_a INNER JOIN file_b..." file_a.csv file_b.csv

Remarque :

  • La requête SQL doit tenir sur une seule ligne, sans saut
  • Indiquez les fichiers CSV dans l'ordre d'apparition dans la requête
Traitement des données en Shell

Passons à la pratique !

Traitement des données en Shell

Preparing Video For Download...