Этап проверки: качество данных

AI для аналитиков данных

Andy Cotgreave

Author and Speaker, Former Technical Evangelist at Tableau

Типичные проблемы

data_quality_issues1.jpg

AI для аналитиков данных

Более сложные задачи, которые решает ИИ

data_quality_issues2.jpg

AI для аналитиков данных

Нечеткие дубликаты

 

  • Традиционный подход: вручную писать правила и поддерживать их вечно
  • ИИ: пишет логику сопоставления и обеспечивает семантическое понимание

 

  • Результат → запрос или группировка, которые можно прочитать и скорректировать

fuzzy_duplicates.png

AI для аналитиков данных

Нарушения временного порядка

time_order.jpg

  • Традиционный подход: писать SQL-запросы для сравнения временных меток
  • ИИ: опишите, что не должно происходить → ИИ напишет запрос
AI для аналитиков данных

Логические несоответствия

logical_inconsistencies.jpg

 

  • Традиционный подход: справочные таблицы — их нужно постоянно поддерживать
  • ИИ: опирается на общие знания, справочные данные не нужны
AI для аналитиков данных

Проверяйте работу ИИ

 

  • ИИ — не волшебство: он генерирует запросы, код или правила
  • Эта работа может быть ошибочной: некорректное регулярное выражение, выдуманное бизнес-правило

ai_interrogation.jpg

AI для аналитиков данных

Исправление проблем

clean_data1.jpg

clean_data2.jpg

AI для аналитиков данных

Давайте потренируемся!

AI для аналитиков данных

Preparing Video For Download...