Gérer les colonnes de données imbriquées

Remanier des données avec pandas

Maria Eugenia Inzaugarat

Data Scientist

Révision

Comment lire du JSON imbriqué dans un DataFrame avec json_normalize().

Données imbriquées dans des colonnes

writers = ["Mary Shelley", "Ernest Hemingway"]
books = ["{'title': 'Frankenstein', 'year': 1818}", 
        "{'title': 'The Old Man and the Sea', 'year': 1951}"]

collection = pd.DataFrame(                                  )

Données imbriquées dans des colonnes

writers = ["Mary Shelley", "Ernest Hemingway"]
books = ["{'title': 'Frankenstein', 'year': 1818}", 
        "{'title': 'The Old Man and the Sea', 'year': 1951}"]

collection = pd.DataFrame(dict(                            ))

Données imbriquées dans des colonnes

writers = ["Mary Shelley", "Ernest Hemingway"]
books = ['{"title": "Frankenstein", "year": "1818"}',
         '{"title": "The Old Man and the Sea", "year":"1951"}']

collection = pd.DataFrame(dict(writers=writers, books=books))

collection

            writers                                               books
0      Mary Shelley             {'title': 'Frankenstein', 'year': 1818}
1  Ernest Hemingway  {'title': 'The Old Man and the Sea', 'year': 1951}

Conversion de données imbriquées

import json

books = collection['books']

Conversion de données imbriquées

import json

books = collection['books'].apply(          )

Conversion de données imbriquées

import json

books = collection['books'].apply(json.loads)

Conversion de données imbriquées

import json

books = collection['books'].apply(json.loads).apply(pd.Series)

books

                     title  year
0             Frankenstein  1818
1  The Old Man and the Sea  1951

Concaténer de nouveau

collection = collection.drop(columns='books')

pd.concat([collection, books], axis=1)

            writers                    title  year
0      Mary Shelley             Frankenstein  1818
1  Ernest Hemingway  The Old Man and the Sea  1951

Exporter des données imbriquées

import json
books = collection['books'].apply(json.loads)

Exporter des données imbriquées

import json
books = collection['books'].apply(json.loads).to_list()

books_dump = json.dumps(books)

new_books = pd.read_json(books_dump)

new_books

                     title  year
0             Frankenstein  1818
1  The Old Man and the Sea  1951

Exporter des données imbriquées

pd.concat([collection['writers'], new_books], axis=1)

            writers                    title  year
0      Mary Shelley             Frankenstein  1818
1  Ernest Hemingway  The Old Man and the Sea  1951

Passons à la pratique !

Remanier des données avec pandas