Čtení, kontrola a čištění dat z CSV

Importing and Managing Financial Data in Python

Stefan Jansen

Instructor

Import a čištění dat

Ověřte, že pd.DataFrame() odpovídá zdrojovému CSV souboru
Výpisy burzy: amex-listings.csv

Data AmEx

Jak pandas ukládá data

Každý sloupec má vlastní datový formát (dtype)
dtype ovlivňuje výpočty i vizualizace

`pandas` `dtype`	Charakteristika sloupce
`object`	Text nebo kombinace textu a čísel
`int64`	Číselný: celá čísla – 64 bitů ($\le 2^{64}$)
`float64`	Číselný: desetinná čísla nebo celá čísla s chybějícími hodnotami
`datetime64`	Informace o datu a čase

Import a inspekce

import pandas as pd

amex = pd.read_csv('amex-listings.csv')

amex.info() # To inspect table structure & data types

RangeIndex: 360 entries, 0 to 359
Data columns (total 8 columns):
 #   Column                 Non-Null Count  Dtype  
 --  ------                 --------------  -----  
 0   Stock Symbol           360 non-null    object 
 1   Company Name           360 non-null    object 
 2   Last Sale              346 non-null    float64
 3   Market Capitalization  360 non-null    float64
 4   IPO Year               105 non-null    float64
 5   Sector                 238 non-null    object 
 6   Industry               238 non-null    object 
 7   Last Update            360 non-null    object 
dtypes: float64(3), object(5)

Práce s chybějícími hodnotami

# Replace 'n/a' with np.nan
amex = pd.read_csv('amex-listings.csv', na_values='n/a')

amex.info()

RangeIndex: 360 entries, 0 to 359
Data columns (total 8 columns):
 #   Column                 Non-Null Count  Dtype  
 --  ------                 --------------  -----  
 0   Stock Symbol           360 non-null    object 
 1   Company Name           360 non-null    object 
 2   Last Sale              346 non-null    float64
 3   Market Capitalization  360 non-null    float64
 4   IPO Year               105 non-null    float64
 5   Sector                 238 non-null    object 
 6   Industry               238 non-null    object 
 7   Last Update            360 non-null    object 
dtypes: float64(3), object(5)

Správné parsování dat

amex = pd.read_csv('amex-listings.csv',
                   na_values='n/a',
                   parse_dates=['Last Update'])

amex.info()

RangeIndex: 360 entries, 0 to 359
Data columns (total 8 columns):
 #   Column                 Non-Null Count  Dtype         
 --  ------                 --------------  -----  
 0   Stock Symbol           360 non-null    object        
 1   Company Name           360 non-null    object        
 2   Last Sale              346 non-null    float64       
 3   Market Capitalization  360 non-null    float64       
 4   IPO Year               105 non-null    float64       
 5   Sector                 238 non-null    object        
 6   Industry               238 non-null    object        
 7   Last Update            360 non-null    datetime64[ns]
dtypes: datetime64[ns](1), float64(3), object(4)

Zobrazení výsledku

amex.head(2) # Show first n rows (default: 5)

  Stock Symbol   Company Name  
0         XXII   22nd Century Group, Inc   
1          FAX   Aberdeen Asia-Pacific Income Fund Inc   

   Last Sale  Market Capitalization  IPO Year  
0     1.3300           1.206285e+08       NaN  
1     5.0000           1.266333e+09    1986.0  

   Sector        Industry              Last Update  
0  Non-Durables  Farming/Seeds/Milling  2017-04-26  
1  NaN           NaN                    2017-04-25

Pojďme si procvičit!

Importing and Managing Financial Data in Python