使用 SQL 语法处理数据

Shell 中的数据处理

Susan Sun

Data Person

csvsql:文档

csvsql

  • 对一个或多个 CSV 应用 SQL 语句
  • 创建内存 SQL 数据库,临时托管正在处理的文件
  • 仅适用于小到中等规模文件

文档:

csvsql -h
usage: csvsql [-h] [-d DELIMITER] [-t] [-q QUOTECHAR] [-u {0,1,2,3}] [-b]
              [-p ESCAPECHAR] [-z FIELD_SIZE_LIMIT] [-e ENCODING] [-L LOCALE]
Shell 中的数据处理

csvsql:对本地 CSV 应用 SQL

示例语法:

ls
Spotify_MusicAttributes.csv
Shell 中的数据处理

csvsql:对本地 CSV 应用 SQL

示例语法:

csvsql --query "SELECT * FROM Spotify_MusicAttributes LIMIT 1" \
    Spotify_MusicAttributes.csv
track_id,danceability,duration_ms,instrumentalness,loudness,tempo,time_signature
118GQ70Sp6pMqn6w1oKuki,0.787,124016.0,0.784,-10.457,119.988,4.0
Shell 中的数据处理

csvsql:对本地 CSV 应用 SQL

示例语法:

csvsql --query "SELECT * FROM Spotify_MusicAttributes LIMIT 1" \
    data/Spotify_MusicAttributes.csv | csvlook
| track_id               | danceability | duration_ms | instrumentalness ...
| ---------------------- | ------------ | ----------- | ---------------- ...
| 118GQ70Sp6pMqn6w1oKuki |        0.787 |     124,016 |            0.784 ...
Shell 中的数据处理

csvsql:对本地 CSV 应用 SQL

示例语法:

csvsql --query "SELECT * FROM Spotify_MusicAttributes LIMIT 1" \
    data/Spotify_MusicAttributes.csv > OneSongFile.csv
ls
OneSongFile.csv
Shell 中的数据处理

csvsql:用 SQL 语法连接 CSV

示例语法:

csvsql --query "SELECT * FROM file_a INNER JOIN file_b..." file_a.csv file_b.csv

注意:

  • SQL 查询须写在一行内,不换行
  • 按 SQL 中出现的顺序列出 CSV 文件
Shell 中的数据处理

Passons à la pratique !

Shell 中的数据处理

Preparing Video For Download...