「害を与えない」を超えて

データ倫理入門

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

合法か、倫理的か？

  • 倫理と法律は密接に関連
  • 倫理は法律を超える：
    • 善悪の判断は進化する
    • 社会・宗教・進歩・文明に依拠
  • 倫理は指針、法律は強制
  • 合法＝倫理的とは限らない。倫理は法を上回る

本の上に手を置くイラスト。

1 Icon made by Freepik from www.flaticon.com
データ倫理入門

過去からの教訓

HeLa細胞

Henrietta Lacksの肖像

  • 不死化したヒト細胞でがん研究を前進
  • ヘンリエッタ・ラックスの生検由来、同意なし
  • プライバシー・尊厳・敬意などの倫理課題

タスキギー梅毒研究

タスキギー梅毒研究の参加者募集チラシ

  • 未治療梅毒の影響を調査、1932–1972年
  • アフリカ系米国人参加者に十分な説明なく、治療も提供せず
  • 治療法があったのに100名超が死亡
データ倫理入門

倫理の指針原則

倫理の本のイラスト

  • 害を与えない：個人リスクを最小化
  • 善行（ベネフィセンス）：社会と他者の利益を最大化
  • 尊重・自律・主体性：同意、プライバシー、情報、コントロール、主体性
  • 公正：適法性、公平、非差別
  • IEEE、ACMもデータ倫理を規定：責任あるデータ利用、悪用防止
1 Icon made by Freepik from www.flaticon.com 2 https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/index.html 3 http://ethics.acm.org/code-of-ethics/ 4 https://www.ieee.org/about/corporate/governance/p7-8.html
データ倫理入門

データ倫理：古い問題の新しい顔

Facebookの感情伝染研究

Facebookの操作的な社会実験を報じるThe Atlanticの記事のスクリーンショット。

  • 約70万人のニュースフィードを操作し行動に影響
  • 研究目的やデータ利用を利用者に不通知

GoogleのProject Nightingale WSJが報じたGoogleのProject Nightingaleのスクリーンショット

  • Googleによる機微データの取扱い
  • 大規模な医療データを患者・医師の同意なしで収集
1 https://www.theatlantic.com/technology/archive/2014/06/everything-we-know-about-facebooks-secret-mood-manipulation-experiment/373648/ https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7059004/
データ倫理入門

法に組み込まれたデータ倫理

データとテクノロジーの規制を象徴する、マイクロチップ前の顔のない判事のイラスト。

  • GDPR、CCPAなどのデータ保護法は倫理原則を内包
  • プライバシー、セキュリティ、透明性、インフォームドコンセント、非差別、説明責任
  • 指針ではなく強制力あり
    • GDPR罰金
    • 2,000万EURまたは世界売上の4%
1 Icon made by Leremy from www.flaticon.com
データ倫理入門

データ倫理のビジネス的意義

コンプライアンスと評判

米FTCやイタリア当局が不十分なデータ実務を処罰したニュースのスクリーンショット。

  • 不適切なデータ実務に規制当局が介入：FTC、イタリアDPA
  • 高い倫理基準の順守は適合性を向上
  • 顧客・従業員への訴求力向上

責任あるイノベーション LinkedInのEconomic Graphプロジェクトの各機能のコラージュ。

  • LinkedIn Economic Graph：政府・政策当局と協働
  • 顧客、社会、企業に裨益
1 https://economicgraph.linkedin.com/
データ倫理入門

練習しましょう！

データ倫理入門

Preparing Video For Download...