Enjeux éthiques dans la prise de décision

Démystifier la Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

La responsabilité de la data science

  • La data science éclaire les décisions dans tous les secteurs

  • L’usage éthique est essentiel pour la confiance et l’équité

  éthique.png

Démystifier la Decision Science

Étude de cas : Optum

  • L’algorithme d’Optum favorisait involontairement les patients plus sains

    • Conçu pour prédire les besoins de soins, il privilégiait les dépenses de santé plus élevées

  • Le biais vient d’hypothèses de données erronées

    • Utiliser les dépenses comme proxy du besoin a créé des disparités raciales, pénalisant les personnes avec moins d’accès aux soins

  optum.png

Démystifier la Decision Science

Équité

équité.png

Confidentialité et sécurité

confidentialité.png

Transparence et reproductibilité

transparence.png

Impact social des données

impact social.png

Démystifier la Decision Science

Biais dans les modèles de machine learning

  biais données.png

Biais en entrée = biais en sortie

  • Les modèles ML reflètent les biais et lacunes des données d’entraînement

 

La équité se mesure

  • Évaluez les performances par groupe pour juger l’équité
Démystifier la Decision Science

Protéger les données

Les data scientists et les organisations doivent assurer une gestion des données sûre et responsable

Cela implique :

  • Infrastructure sécurisée et protections à jour
  • Accès restreint : données minimales selon le rôle
  • Collecte basée sur le consentement pour les données personnelles

Pourquoi c’est important :

  • Les violations réduisent la confiance
  • Risque de poursuites
  • Nuisent à la réputation et à la rentabilité

protection des données.png

Démystifier la Decision Science

Transparence

 

Assure clarté et responsabilité

  • Indiquez sources de données, nettoyage, méthodes d’analyse, métriques collectées et incertitudes

Reproductibilité

 

La reproductibilité renforce confiance et crédibilité

  • D’autres doivent pouvoir répéter l’analyse avec les mêmes données et méthodes et obtenir les mêmes résultats
Démystifier la Decision Science

L’éthique au cœur de la science de la décision

Les considérations éthiques sont au cœur d’une décision responsable

  • L’éthique n’est pas optionnelle : elle est essentielle
  • Prioriser équité, justice et bénéfices
  • Appliquer les principes éthiques sur tout le cycle de vie des données

résumé éthique.png

Démystifier la Decision Science

Passons à la pratique !

Démystifier la Decision Science

Preparing Video For Download...