Praktické příklady

Úvod do testování v Pythonu

Alexander Levin

Data Scientist

Data a pipeline

Data: platy v oblasti datové vědy.

Každý řádek obsahuje informace o pracovníkovi v datové vědě – jeho plat, pozici a další atributy.

tabulka platů v datové vědě

Pipeline: výpočet průměrného platu:

  1. Načtení dat
  2. Filtrování podle typu zaměstnání
  3. Výpočet průměrného platu
  4. Uložení výsledků
Úvod do testování v Pythonu

Kód pipeline

import pandas as pd

# Fixture to get the data
@pytest.fixture
def read_df():
    return pd.read_csv('ds_salaries.csv')
# Function to filter the data
def filter_df(df):
    return df[df['employment_type'] == 'FT']
# Function to get the mean
def get_mean(df):   
    return df['salary_in_usd'].mean()
Úvod do testování v Pythonu

Integrační testy

Testovací případy:

  • Načtení dat
  • Zápis do souboru

Kód:

def test_read_df(read_df):
    # Check the type of the dataframe
    assert isinstance(read_df, pd.DataFrame)
    # Check that df contains rows
    assert read_df.shape[0] > 0
Úvod do testování v Pythonu

Integrační testy

Příklad ověření, že Python dokáže vytvářet soubory.

def test_write():
    # Opening a file in writing mode
    with open('temp.txt', 'w') as wfile:
        # Writing the text to the file
        wfile.write('Testing stuff is awesome')
    # Checking the file exists
    assert os.path.exists('temp.txt')
    # Don't forget to clean after yourself
    os.remove('temp.txt')
Úvod do testování v Pythonu

Jednotkové testy

Testovací případy:

  • Filtrovaná datová sada obsahuje pouze typ zaměstnání 'FT'
  • Funkce get_mean() vrací číslo

Kód:

def test_units(read_df):
    filtered = filter_df(read_df)
    assert filtered['employment_type'].unique() == ['FT']
    assert isinstance(get_mean(filtered), float)
Úvod do testování v Pythonu

Testy vlastností

Testovací případy:

  • Průměr je větší než nula
  • Průměr nepřesahuje maximální plat v datové sadě

Kód:

def test_feature(read_df):
    # Filtering the data
    filtered = filter_df(read_df)
    # Test case: mean is greater than zero
    assert get_mean(filtered) > 0
    # Test case: mean is not bigger than the maximum
    assert get_mean(filtered) <= read_df['salary_in_usd'].max()
Úvod do testování v Pythonu

Výkonnostní testy

Testovací případy:

  • Doba běhu pipeline od začátku do konce

Kód:

def test_performance(benchmark, read_df):
    # Benchmark decorator
    @benchmark
    # Function to measure
    def get_result():
        filtered = filter_df(read_df)
        return get_mean(filtered)
Úvod do testování v Pythonu

Výsledná testovací sada

import pytest

## Integration Tests
def test_read_df(read_df):
      # Check the type of the dataframe
    assert isinstance(read_df, pd.DataFrame)
    # Check that df contains rows
    assert read_df.shape[0] > 0
def test_write():
    with open('temp.txt', 'w') as wfile:
        wfile.write('12345')
    assert os.path.exists('temp.txt')
    os.remove('temp.txt')

## Unit Tests
def test_units(read_df):
    filtered = filter_df(read_df)
    assert filtered['employment_type'].unique() == ['FT']
    assert isinstance(get_mean(filtered), float)
## Feature Tests
def test_feature(read_df):
    # Filtering the data
    filtered = filter_df(read_df)
    # Test case: mean is greater than zero
    assert get_mean(filtered) > 0
    # Test case: mean is not bigger than the maximum
    assert get_mean(filtered) <= read_df['salary_in_usd'].max()

## Performance Tests
def test_performance(benchmark, read_df):
    # Benchmark decorator
    @benchmark
    # Function to measure
    def pipeline():
        filtered = filter_df(read_df)
        return get_mean(filtered)
Úvod do testování v Pythonu

Pojďme si procvičit!

Úvod do testování v Pythonu

Preparing Video For Download...