Dimensions des données responsables

Gestion responsable des données en AI

Maria Prokofieva

Lead ML Engineer

Gestion responsable des données

  • Gestion éthique des données
  • Évaluer les modèles avec des mesures techniques
  • IA responsable

Dimensions des données responsables

Gestion responsable des données en AI

Dans ce cours

  • Présenter les dimensions et mesures de l'IA responsable
  • Appliquer les concepts au réel
  • Survol de la réglementation et des licences
  • Gouvernance et acquisition des données
  • Validation et atténuation des biais
Gestion responsable des données en AI

Légalité

  • Conformité aux lois et règlements
  • Assure une collecte, un traitement et un usage adéquats des données
  • Exemples de lois et règlements :
    • Lois sur la protection des données
    • Lois sur les droits de la personne
    • Règles éthiques envers les parties prenantes
    • Peuvent varier selon l'autorité ou le pays

Vérifiez toujours ce qui s'applique !

Dimensions des données responsables : légalité

Gestion responsable des données en AI

Équité

  • Les algorithmes et pratiques de données ne créent pas d'inégalités
  • Traiter chacun équitablement, sans discrimination

Dimensions des données responsables : équité

Gestion responsable des données en AI

Transparence et imputabilité

  • Comment les données sont utilisées
  • Comment le modèle est développé
  • Comment les décisions sont prises
  • Expliquer l'IA
  • Établir la confiance des parties prenantes

Dimensions des données responsables : transparence et imputabilité

Gestion responsable des données en AI

Diversité et inclusion

  • Diversité des données
  • Perspectives et expériences variées
  • Essentiel pour atténuer les biais

Dimensions des données responsables : diversité et inclusion

Gestion responsable des données en AI

Vie privée et sécurité

  • Protection des données personnelles et sensibles
  • Respect et protection des droits individuels
  • Protéger les données et les modèles contre l'accès non autorisé

Dimensions des données responsables : vie privée et sécurité

Gestion responsable des données en AI

Outil d'embauche d'Amazon propulsé par l'IA

  • Amazon : 2015-2017
  • Acquisition de talents automatisée
  • Utiliser l'IA pour évaluer les candidat·e·s
  • A mené à un scandale et à l'abandon de l'initiative

amazon AI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Gestion responsable des données en AI

Défis des modèles d'IA

Qu'est-ce qui a cloché ?

  • Non inclusif sur le plan du genre
  • Données d'entraînement déséquilibrées
  • Seulement des mesures techniques pour évaluer l'IA

données déséquilibrées

Gestion responsable des données en AI

Passons à la pratique !

Gestion responsable des données en AI

Preparing Video For Download...