データソース

責任あるAIデータマネジメント

Maria Prokofieva

Lead ML engineer

この後の内容

  • データソースの種類
  • 制約と選定
  • 複数ソースの統合

棚から書類を取り、虫眼鏡で確認し、電子データベースで検索する人々

責任あるAIデータマネジメント

データソースが重要な理由

  • 完全性
  • 多様性
  • 公平な表現

データソースの調理

1 Image by Streamline HQ
責任あるAIデータマネジメント

起源による種類

  • 一次

    • プロジェクト内で収集したデータ
    • コンプライアンスと同意
  • 二次

    • 既存リソースから取得したデータ
    • ライセンス契約

ライセンス契約の抽象概念

責任あるAIデータマネジメント

性質別の種類

  • 量的

    • 数値データ
  • 質的

    • 非数値
  • 混合

    • 数値と非数値の組み合わせ

数字からテキストへ

1 Image by Streamline HQ
責任あるAIデータマネジメント

時間性による種類

  • 静的
    • 時間で変化しない
    • センサスデータ
    • 企業住所
  • 動的
    • リアルタイム更新
    • ソーシャルメディアのストリーム
    • API
    • 金融市場フィード
    • センサーデータ

動的フロー

1 Image by Streamline HQ
責任あるAIデータマネジメント

データソースの多様性と公平性

  • 収集者の直接的バイアス
  • 測定可能なバイアス確認
  • 現状を正確に反映しない、陳腐化したバイアス
  • 元の文脈からの継承バイアス
  • 精緻な分析
  • 継続的に変化し、リアルタイムのバイアスを生む可能性
責任あるAIデータマネジメント

都市交通フロープロジェクト

データソース:

  • 交通の履歴データ
  • 市議会の議事録
  • GPS 追跡データ

都市交通フロープロジェクト

1 Images by Streamline HQ
責任あるAIデータマネジメント

交通の履歴データ

  • 市交通局
  • 過去5年
  • 車両数と時間帯/曜日を含む

これは一次・静的・量的ソースです

交通データ

1 Image by Streamline HQ
責任あるAIデータマネジメント

市議会の議事録

  • 議会サイトで公開の公的記録
  • 都市計画・交通管理の要約

これは質的な二次ソースです

議事録

1 Image by Streamline HQ
責任あるAIデータマネジメント

GPS データ

  • 一次・動的ソース
  • 現在の交通状況、速度、遅延を即時に把握

GPS

1 Image by Streamline HQ
責任あるAIデータマネジメント

Laten we oefenen!

責任あるAIデータマネジメント

Preparing Video For Download...