Робота з вкладеними стовпцями даних

Переформатування даних у pandas

Maria Eugenia Inzaugarat

Data Scientist

Огляд

  • Як зчитувати вкладений JSON у DataFrame за допомогою json_normalize().
Переформатування даних у pandas

Вкладені дані у стовпцях

writers = ["Mary Shelley", "Ernest Hemingway"]
books = ["{'title': 'Frankenstein', 'year': 1818}", 
        "{'title': 'The Old Man and the Sea', 'year': 1951}"]

collection = pd.DataFrame( )
Переформатування даних у pandas

Вкладені дані у стовпцях

writers = ["Mary Shelley", "Ernest Hemingway"]
books = ["{'title': 'Frankenstein', 'year': 1818}", 
        "{'title': 'The Old Man and the Sea', 'year': 1951}"]

collection = pd.DataFrame(dict( ))
Переформатування даних у pandas

Вкладені дані у стовпцях

writers = ["Mary Shelley", "Ernest Hemingway"]
books = ['{"title": "Frankenstein", "year": "1818"}',
         '{"title": "The Old Man and the Sea", "year":"1951"}']

collection = pd.DataFrame(dict(writers=writers, books=books))
collection
            writers                                               books
0      Mary Shelley             {'title': 'Frankenstein', 'year': 1818}
1  Ernest Hemingway  {'title': 'The Old Man and the Sea', 'year': 1951}
Переформатування даних у pandas

Перетворення вкладених даних

import json

books = collection['books']
Переформатування даних у pandas

Перетворення вкладених даних

import json

books = collection['books'].apply( )
Переформатування даних у pandas

Перетворення вкладених даних

import json

books = collection['books'].apply(json.loads)
Переформатування даних у pandas

Перетворення вкладених даних

import json

books = collection['books'].apply(json.loads).apply(pd.Series)
books
                     title  year
0             Frankenstein  1818
1  The Old Man and the Sea  1951
Переформатування даних у pandas

Об'єднати назад

collection = collection.drop(columns='books')

pd.concat([collection, books], axis=1)
            writers                    title  year
0      Mary Shelley             Frankenstein  1818
1  Ernest Hemingway  The Old Man and the Sea  1951
Переформатування даних у pandas

Серіалізація вкладених даних

import json
books = collection['books'].apply(json.loads)



Переформатування даних у pandas

Серіалізація вкладених даних

import json
books = collection['books'].apply(json.loads).to_list()

books_dump = json.dumps(books)
new_books = pd.read_json(books_dump)
new_books
                     title  year
0             Frankenstein  1818
1  The Old Man and the Sea  1951
Переформатування даних у pandas

Серіалізація вкладених даних

pd.concat([collection['writers'], new_books], axis=1)
            writers                    title  year
0      Mary Shelley             Frankenstein  1818
1  Ernest Hemingway  The Old Man and the Sea  1951
Переформатування даних у pandas

Давайте потренуємось!

Переформатування даних у pandas

Preparing Video For Download...