Введение в JSON

Эффективный импорт данных с pandas

Amany Mahfouz

Instructor

Формат JSON (Javascript Object Notation)

Распространённый формат веб-данных
Не табличный
- Записи могут иметь разный набор атрибутов
Данные организованы в коллекции объектов
Объект — это набор пар «атрибут — значение»
Вложенный JSON: объекты внутри объектов

Чтение данных JSON

read_json()
- Принимает путь к файлу JSON или данные JSON в виде строки
- Укажите типы данных с помощью аргумента dtype
- Аргумент orient задаёт нестандартную структуру JSON
  - possible values in pandas documentation

Ориентация данных

Данные JSON не табличны
- pandas самостоятельно определяет способ их представления в таблице
pandas автоматически распознаёт распространённые ориентации

Ориентация по записям

Наиболее распространённый формат JSON

[
  {
      "age_adjusted_death_rate": "7.6",
      "death_rate": "6.2",
      "deaths": "32",
      "leading_cause": "Accidents Except Drug Posioning (V01-X39, X43, X45-X59, Y85-Y86)",
      "race_ethnicity": "Asian and Pacific Islander",
      "sex": "F",
      "year": "2007"
  },
  {
      "age_adjusted_death_rate": "8.1",
      "death_rate": "8.3",
      "deaths": "87",
      ...

Ориентация по столбцам

Эффективнее по размеру, чем ориентация по записям

{
  "age_adjusted_death_rate": {
      "0": "7.6",
      "1": "8.1",
      "2": "7.1",
      "3": ".",
      "4": ".",
      "5": "7.3",
      "6": "13",
      "7": "20.6",
      "8": "17.4",
      "9": ".",
      "10": ".",
      "11": "19.8",
      ...

Указание ориентации

Данные в формате split — nyc_death_causes.json

{
  "columns": [
      "age_adjusted_death_rate",
      "death_rate",
      "deaths",
      "leading_cause",
      "race_ethnicity",
      "sex",
      "year"
  ],
  "index": [...],
  "data": [
      [
          "7.6",

Указание ориентации

import pandas as pd

death_causes = pd.read_json("nyc_death_causes.json",
                            orient="split")

print(death_causes.head())

  age_adjusted_death_rate death_rate deaths             leading_cause              race_ethnicity sex  year
0                     7.6        6.2     32  Accidents Except Drug...  Asian and Pacific Islander   F  2007
1                     8.1        8.3     87  Accidents Except Drug...          Black Non-Hispanic   F  2007
2                     7.1        6.1     71  Accidents Except Drug...                    Hispanic   F  2007
3                       .          .      .  Accidents Except Drug...          Not Stated/Unknown   F  2007
4                       .          .      .  Accidents Except Drug...       Other Race/ Ethnicity   F  2007

[5 rows x 7 columns]

Давайте потренируемся!

Эффективный импорт данных с pandas