Обеспечение стандартов качества данных с DevOps

Концепции DevOps

Cem Sakarya

DevOps Risk Advisor

DevOps обеспечивает качество кода

  Качественный код обеспечивает качество данных, что ведёт к качественному ML.

  • Большинство программ работают с данными
  • Качественный код обеспечивает качество данных
  • DevOps помогает поддерживать высокое качество кода
Концепции DevOps

Качество данных

 

  • Насколько достоверна информация?
  • Актуальная и точная информация
  • Достичь этого бывает сложно и дорого
  • Не все данные требуют одинакового уровня качества
  • Качество данных включает множество элементов
Концепции DevOps

Элементы качества данных

  Элементы качества данных: точность, полнота, согласованность, релевантность, актуальность

 

  • Элементы раскрывают и определяют качество данных
  • Их необходимо отслеживать и стандартизировать
Концепции DevOps

   

Элементы качества данных: точность, полнота, согласованность, релевантность, актуальность; выделена точность

   

  • Верны ли данные во всех деталях?
  • Необходим постоянный мониторинг
Концепции DevOps

   

Элементы качества данных: точность, полнота, согласованность, релевантность, актуальность; выделена полнота

   

  • Насколько исчерпывающими являются данные?
  • Проверяйте, не теряются ли данные при записи в базу
  • Проверяйте, не теряются ли данные при переносе между базами
Концепции DevOps

   

Элементы качества данных: точность, полнота, согласованность, релевантность, актуальность; выделена согласованность

   

  • Согласованность отражает надёжность информации
  • Иначе называется целостностью данных
  • Требует постоянного мониторинга и тестирования
Концепции DevOps

   

Элементы качества данных: точность, полнота, согласованность, релевантность, актуальность; выделена релевантность

   

  • Храните и обрабатывайте только нужную информацию
  • Лишние данные впустую расходуют время и ресурсы
Концепции DevOps

   

Элементы качества данных: точность, полнота, согласованность, релевантность, актуальность; выделена актуальность

   

  • Насколько свежей является информация?
  • Устаревшие данные могут быть заменены более актуальными
  • Необработанные данные внутри микросервисов не используются в анализе
  • Микросервисы обмениваются данными через API-вызовы для получения актуальной информации
  • Данные внутри микросервисов должны реплицироваться с приемлемой периодичностью
Концепции DevOps

Давайте потренируемся!

Концепции DevOps

Preparing Video For Download...