Робота з обчисленими та оціненими результатами

Моніторинг Machine Learning у Python

Maciej Balawejder

Data Scientist

Як ділити дані на чанки?

Зображено три типи чанкування: за типом, за розміром і за кількістю.

Задання різних чанків

Зображено псевдоніми часових інтервалів для параметра chunk period.

# Initialize the algorithm
cbpe = nannyml.CBPE(
   problem_type='classification_binary',
   y_pred_proba='predicted_probability',
   y_pred='prediction',
   y_true='employed',
   metrics=['roc_auc'],
   chunk_period='m',
   # chunk_size = 5000, 
   # chunk_number = 10
)

Ініціалізація власних порогів

Пороги за стандартним відхиленням

Встановіть множники нижнього та верхнього стандартного відхилення вручну

# Standard deviation thresholds
stdt = StandardDeviationThreshold(
    std_lower_multiplier=3, 
    std_upper_multiplier=3
    )

Фіксовані пороги

Задайте нижнє та верхнє значення порога вручну

# Constant thresholds
ct = ConstantThreshold(
    lower=0.85, 
    upper=0.95
    )

Задання власних порогів

# Import threshold methods(last slide)
from nannyml.thresholds import ConstantThreshold, StandardDeviationThreshold

# Passing thresholds to the CBPE algorithm
estimator = nannyml.CBPE(...
    metrics = ['roc_auc', 'accuracy'],
    thresholds={'roc_auc': ct, 'accuracy' : stdt}
)

Графіки оціненої якості для ROC AUC та accuracy з власними порогами.

Фільтрація результатів

За періодом

filtered_results = results.filter(period='analysis')

За метриками

filtered_results = results.filter(metrics=['mae'])

Обидва варіанти

filtered_results = results.filter(period='analysis', metrics=['mae'])

Експорт результатів у датафрейм

# Export results to dataframe format
results.filter(period='analysis').to_df()

Результати у форматі датафрейму.

Давайте потренуємось!

Моніторинг Machine Learning у Python