Чтение, проверка и очистка данных из CSV

Импорт и управление финансовыми данными в Python

Stefan Jansen

Instructor

Импорт и очистка данных

Убедитесь, что pd.DataFrame() совпадает с исходным CSV-файлом
Листинги фондовой биржи: amex-listings.csv

Данные AmEx

Как pandas хранит данные

У каждого столбца свой формат данных (dtype)
dtype влияет на вычисления и визуализацию

`pandas` `dtype`	Характеристика столбца
`object`	Текст или смесь текста и числовых данных
`int64`	Числовые: целые числа — 64 бита ($\le 2^{64}$)
`float64`	Числовые: дробные или целые числа с пропущенными значениями
`datetime64`	Дата и время

Импорт и проверка

import pandas as pd

amex = pd.read_csv('amex-listings.csv')

amex.info() # To inspect table structure & data types

RangeIndex: 360 entries, 0 to 359
Data columns (total 8 columns):
 #   Column                 Non-Null Count  Dtype  
 --  ------                 --------------  -----  
 0   Stock Symbol           360 non-null    object 
 1   Company Name           360 non-null    object 
 2   Last Sale              346 non-null    float64
 3   Market Capitalization  360 non-null    float64
 4   IPO Year               105 non-null    float64
 5   Sector                 238 non-null    object 
 6   Industry               238 non-null    object 
 7   Last Update            360 non-null    object 
dtypes: float64(3), object(5)

Работа с пропущенными значениями

# Replace 'n/a' with np.nan
amex = pd.read_csv('amex-listings.csv', na_values='n/a')

amex.info()

RangeIndex: 360 entries, 0 to 359
Data columns (total 8 columns):
 #   Column                 Non-Null Count  Dtype  
 --  ------                 --------------  -----  
 0   Stock Symbol           360 non-null    object 
 1   Company Name           360 non-null    object 
 2   Last Sale              346 non-null    float64
 3   Market Capitalization  360 non-null    float64
 4   IPO Year               105 non-null    float64
 5   Sector                 238 non-null    object 
 6   Industry               238 non-null    object 
 7   Last Update            360 non-null    object 
dtypes: float64(3), object(5)

Корректный разбор дат

amex = pd.read_csv('amex-listings.csv',
                   na_values='n/a',
                   parse_dates=['Last Update'])

amex.info()

RangeIndex: 360 entries, 0 to 359
Data columns (total 8 columns):
 #   Column                 Non-Null Count  Dtype         
 --  ------                 --------------  -----  
 0   Stock Symbol           360 non-null    object        
 1   Company Name           360 non-null    object        
 2   Last Sale              346 non-null    float64       
 3   Market Capitalization  360 non-null    float64       
 4   IPO Year               105 non-null    float64       
 5   Sector                 238 non-null    object        
 6   Industry               238 non-null    object        
 7   Last Update            360 non-null    datetime64[ns]
dtypes: datetime64[ns](1), float64(3), object(4)

Смотрим на результат

amex.head(2) # Show first n rows (default: 5)

  Stock Symbol   Company Name  
0         XXII   22nd Century Group, Inc   
1          FAX   Aberdeen Asia-Pacific Income Fund Inc   

   Last Sale  Market Capitalization  IPO Year  
0     1.3300           1.206285e+08       NaN  
1     5.0000           1.266333e+09    1986.0  

   Sector        Industry              Last Update  
0  Non-Durables  Farming/Seeds/Milling  2017-04-26  
1  NaN           NaN                    2017-04-25

Давайте потренируемся!

Импорт и управление финансовыми данными в Python