Considérations éthiques dans la prise de décision

Démystifier la decision science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

La responsabilité de la Data Science

  • La Data Science éclaire les décisions dans tous les secteurs

  • L'éthique est essentielle pour la confiance et l'équité

  ethical.png

Démystifier la decision science

Étude de cas : Optum

  • L'algorithme d'Optum a involontairement favorisé les patient·e·s en meilleure santé

    • Conçu pour prédire les besoins en soins, il a privilégié ceux et celles avec des dépenses de santé plus élevées

  • Un biais issu d'hypothèses de données erronées

    • Utiliser les dépenses comme substitut du besoin a créé des disparités raciales, désavantageant les personnes ayant moins accès aux soins

  optum.png

Démystifier la decision science

Équité

fairness.png

Vie privée et sécurité

privacy.png

Transparence et reproductibilité

transp.png

L'impact social des données

socialimpact.png

Démystifier la decision science

Biais dans les modèles d'apprentissage automatique

  bias data.png

Biais en entrée = biais en sortie

  • Les modèles d'apprentissage automatique reflètent les biais et les lacunes des données d'entraînement

 

L'équité se mesure

  • Évaluez la performance du modèle selon différents groupes pour juger de l'équité
Démystifier la decision science

Protéger les données

Les scientifiques de la décision et les organisations doivent assurer une gestion des données sécuritaire et responsable

Cela implique :

  • Une infrastructure sécurisée avec des protections à jour
  • Un accès restreint : seules les données minimales par rôle
  • Une collecte fondée sur le consentement pour les données personnelles

Pourquoi c'est important :

  • Les atteintes réduisent la confiance
  • Elles peuvent mener à des poursuites
  • Elles nuisent à la réputation et à la rentabilité

dataprotection.png

Démystifier la decision science

Transparence

 

Assure clarté et reddition de comptes

  • Documenter les sources de données, le nettoyage, les méthodes d'analyse, les mesures et les incertitudes

Reproductibilité

 

La reproductibilité renforce la confiance et la crédibilité

  • D'autres doivent pouvoir refaire l'analyse avec les mêmes données et méthodes et obtenir les mêmes résultats
Démystifier la decision science

L'éthique au cœur de la science de la décision

Les considérations éthiques sont au cœur d'une science de la décision responsable

  • L'éthique n'est pas optionnelle : elle est essentielle
  • Priorisez l'équité, la justice et l'intérêt commun
  • Appliquez les principes éthiques tout au long du cycle de vie des données

ethicssummary.png

Démystifier la decision science

Passons à la pratique !

Démystifier la decision science

Preparing Video For Download...