DevOpsでデータ品質基準を担保する

DevOpsの基礎概念

Cem Sakarya

DevOps Risk Advisor

DevOpsは良いコードを担保

  良いコードが良いデータを生み、良いMLにつながる。

  • ほとんどのソフトウェアはデータを扱う
  • 良いソフトは高品質データを生む
  • DevOpsはソフトの品質維持に寄与
DevOpsの基礎概念

データ品質

 

  • 情報はどれだけ信頼できるか
  • 最新かつ正確な情報
  • 実現は難しくコストも高い場合がある
  • すべてのデータに同品質は不要
  • データ品質には多くの要素がある
DevOpsの基礎概念

データ品質の要素

  データ品質の要素:正確性、完全性、一貫性、関連性、適時性

 

  • 要素はデータ品質を分解・定義する
  • 追跡し標準化すべき
DevOpsの基礎概念

   

データ品質の要素:正確性、完全性、一貫性、関連性、適時性;正確性を強調

   

  • データは細部まで正しいか
  • 厳密な監視が必要
DevOpsの基礎概念

   

データ品質の要素:正確性、完全性、一貫性、関連性、適時性;完全性を強調

   

  • データはどれだけ網羅的か
  • DBに保存する際に欠落がないか確認
  • 異なるDBへ移送時に欠落がないか確認
DevOpsの基礎概念

   

データ品質の要素:正確性、完全性、一貫性、関連性、適時性;一貫性を強調

   

  • 一貫性は情報の信頼性に関わる
  • データ完全性とも呼ばれる
  • 継続的な監視とテストが必要
DevOpsの基礎概念

   

データ品質の要素:正確性、完全性、一貫性、関連性、適時性;関連性を強調

   

  • 関連する情報のみを保持・処理する
  • 無関係な情報は時間とリソースを浪費
DevOpsの基礎概念

   

データ品質の要素:正確性、完全性、一貫性、関連性、適時性;適時性を強調

   

  • 情報はどれだけ最新か
  • 古いデータは最新情報に置換し得る
  • マイクロサービス内の生データは分析に未使用
  • 最新情報取得のためAPIで相互通信
  • マイクロサービス内データは許容頻度で複製
DevOpsの基礎概念

練習しましょう!

DevOpsの基礎概念

Preparing Video For Download...