Défis de l’IA responsable

Gestion responsable des données pour l’IA

Maria Prokofieva

Lead ML Engineer

Pratiques réelles de gestion responsable des données

Complexe

Implique des compromis

Jugement professionnel

IA responsable : cercle bleu avec une main tenant une puce IA

Compromis courants

Compromis

Dimensions de l’IA responsable

Facteurs business

Profit vs équité et vie privée
Revenu vs tests et sécurité

Modèles préentraînés

Réduire les coûts
Gagner du temps et des ressources
Pas de collecte ni d’entraînement requis
Données d’entraînement potentiellement biaisées
Manque de transparence

modèles préentraînés

Utiliser des modèles préentraînés

Diligence sur l’origine du modèle
Bonne réputation
Crédibilité
Examiner la documentation du modèle
Tests additionnels d’équité et de biais

Compromis entre métriques

Précision vs équité
Même sur des jeux de données équilibrés

Compromis de précision

Précision plus faible pour certains groupes
Données des groupes sous-représentés non prises en compte (qualité/quantité)
La confidentialité réduit la précision

Reconnaissance faciale

Compromis de robustesse

Compromis entre métriques

Robustesse vs biais
Robustesse vs équité

Déontologie et devoirs de diligence

Code d’éthique et de conduite
Recommandations variables selon pays et organisations
Responsabilité, non-nuisance, équité
Confidentialité et vie privée des utilisateurs
Impact positif sur la société
Maintenir des standards élevés
Concevoir des systèmes robustes et sécurisés
Inclusifs et non discriminatoires

ACM

¹ https://www.acm.org/code-of-ethics

Passons à la pratique !

Gestion responsable des données pour l’IA

Preparing Video For Download...