JSON の概要

pandasで効率よくデータを取り込む

Amany Mahfouz

Instructor

JavaScript Object Notation (JSON)

一般的なWebデータ形式
表形式ではない
- 各レコードで属性の集合が同一でなくてよい
データはオブジェクトの集合に整理
オブジェクトは属性と値のペアの集合
入れ子のJSON：オブジェクト内にオブジェクト

JSONデータの読み込み

read_json()
- JSONへのパス文字列、またはJSON文字列を受け取る
- dtype 引数でデータ型を指定
- orient 引数で一般的でないJSON配置を指定
  - 可能な値は pandas ドキュメント参照

データの指向

JSONは表形式ではない
- pandas が表への配置を推測します
pandas は一般的な指向を自動処理可能

レコード指向

最も一般的なJSON配置

[
  {
      "age_adjusted_death_rate": "7.6",
      "death_rate": "6.2",
      "deaths": "32",
      "leading_cause": "Accidents Except Drug Posioning (V01-X39, X43, X45-X59, Y85-Y86)",
      "race_ethnicity": "Asian and Pacific Islander",
      "sex": "F",
      "year": "2007"
  },
  {
      "age_adjusted_death_rate": "8.1",
      "death_rate": "8.3",
      "deaths": "87",
      ...

カラム指向

レコード指向よりも省スペース

{
  "age_adjusted_death_rate": {
      "0": "7.6",
      "1": "8.1",
      "2": "7.1",
      "3": ".",
      "4": ".",
      "5": "7.3",
      "6": "13",
      "7": "20.6",
      "8": "17.4",
      "9": ".",
      "10": ".",
      "11": "19.8",
      ...

指向の指定

分割指向データ - nyc_death_causes.json

{
  "columns": [
      "age_adjusted_death_rate",
      "death_rate",
      "deaths",
      "leading_cause",
      "race_ethnicity",
      "sex",
      "year"
  ],
  "index": [...],
  "data": [
      [
          "7.6",

指向の指定

import pandas as pd

death_causes = pd.read_json("nyc_death_causes.json",
                            orient="split")

print(death_causes.head())

  age_adjusted_death_rate death_rate deaths             leading_cause              race_ethnicity sex  year
0                     7.6        6.2     32  Accidents Except Drug...  Asian and Pacific Islander   F  2007
1                     8.1        8.3     87  Accidents Except Drug...          Black Non-Hispanic   F  2007
2                     7.1        6.1     71  Accidents Except Drug...                    Hispanic   F  2007
3                       .          .      .  Accidents Except Drug...          Not Stated/Unknown   F  2007
4                       .          .      .  Accidents Except Drug...       Other Race/ Ethnicity   F  2007

[5 rows x 7 columns]

Vamos praticar!

pandasで効率よくデータを取り込む