Валидация данных

Ответственное управление данными в ИИ

Maria Prokofieva

Lead ML engineer

Темы урока

Валидация данных
Ответственные измерения
ИИ-финансовый консультант

validation

Валидация данных

Более детальный подход
Проверка технической целостности данных
Проверка справедливости

data validation

Техническая целостность

Полнота данных
Отсутствие дубликатов, ошибок и устаревших данных
Соответствие требованиям законодательства
Проверки точности, согласованности, полноты и актуальности

Responsible data dimensions

Финансовый консультант: техническая целостность

Расхождения и аномалии в данных
Некорректно присвоенные поля
Раннее обнаружение и исправление

incorrect categories example

Финансовый консультант: техническая целостность

Аномалии в периодах и методах сбора данных
Региональные экономические различия
Недостаточная оптимизация для всех групп пользователей

anomalies in data collection methods

Оценка справедливости

Равные возможности
Непропорциональное воздействие
Демографический паритет
Применяется на всех этапах проекта

Финансовый консультант:

Каждый пользователь получает актуальные и полезные рекомендации
Единые рекомендации для всех демографических групп
Ни одна группа не подвергается непропорциональному воздействию

Подходы к валидации данных

Определение ключевых переменных
Анализ распределения данных
Очистка данных и применение статистических тестов
Балансировка данных
Проверка метрик справедливости
Тестирование моделей на разнообразных наборах данных

Финансовый консультант

advisor logo

Удаление выбросов и заполнение пропущенных значений
Валидация с помощью описательной статистики до и после
Оверсэмплинг для группы с низким доходом
Проверка качества модели и метрик справедливости
Перекрёстная проверка со стратификацией
Тестирование на «невидимых» данных

Давайте потренируемся!

Ответственное управление данными в ИИ

Preparing Video For Download...