Dimensions des données responsables

Gestion responsable des données pour l’IA

Maria Prokofieva

Lead ML Engineer

Gestion responsable des données

  • Gestion éthique des données
  • Évaluer les modèles avec des métriques techniques
  • IA responsable

Dimensions des données responsables

Gestion responsable des données pour l’IA

Dans ce cours

  • Présenter les dimensions et métriques de l’IA responsable
  • Appliquer les concepts au réel
  • Panorama des réglementations et licences
  • Gouvernance et acquisition des données
  • Validation et réduction des biais
Gestion responsable des données pour l’IA

Légalité

  • Conformité aux lois et réglementations
  • Assure une collecte, un traitement et un usage corrects des données
  • Exemples de lois et règles :
    • Lois sur la protection des données
    • Lois relatives aux droits humains
    • Règles éthiques vis‑à‑vis des parties prenantes
    • Variables selon l’autorité ou le pays

Vérifiez toujours ce qui s’applique !

Dimensions des données responsables : légalité

Gestion responsable des données pour l’IA

Équité

  • Algorithmes et pratiques de données ne doivent pas créer d’inégalités
  • Traiter chacun équitablement, sans discrimination

Dimensions des données responsables : équité

Gestion responsable des données pour l’IA

Transparence et responsabilité

  • Comment les données sont utilisées
  • Comment le modèle est développé
  • Comment les décisions sont prises
  • Expliquer l’IA
  • Renforcer la confiance des parties prenantes

Dimensions des données responsables : transparence et responsabilité

Gestion responsable des données pour l’IA

Diversité et inclusion

  • Diversité des données
  • Perspectives et expériences variées
  • Clé pour réduire les biais

Dimensions des données responsables : diversité et inclusion

Gestion responsable des données pour l’IA

Confidentialité et sécurité

  • Protection des données personnelles et sensibles
  • Respect et protection des droits individuels
  • Protéger données et modèles des accès non autorisés

Dimensions des données responsables : confidentialité et sécurité

Gestion responsable des données pour l’IA

Outil de recrutement IA d’Amazon

  • Amazon : 2015-2017
  • Recrutement automatisé
  • IA pour noter les candidats
  • Scandale et abandon de l’initiative

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Gestion responsable des données pour l’IA

Défis des modèles d’IA

Que s’est-il passé ?

  • Non neutre en matière de genre
  • Données d’entraînement déséquilibrées
  • Évaluation basée uniquement sur des métriques techniques

données déséquilibrées

Gestion responsable des données pour l’IA

Passons à la pratique !

Gestion responsable des données pour l’IA

Preparing Video For Download...