Défis de l'IA responsable

Gestion responsable des données en AI

Maria Prokofieva

Lead ML Engineer

Pratiques responsables de gestion des données sur le terrain

Complexe

Implique des compromis

Jugement professionnel

IA responsable : cercle bleu avec une main tenant une illustration d'une puce IA

Compromis fréquents

Compromis

Dimensions de l'IA responsable

Facteurs d'affaires

Profits avant l'équité et la vie privée
Revenus avant tests et sécurité

Modèles préentraînés

Réduire les coûts
Économiser temps et ressources
Pas de collecte ni d'entraînement des données requis
Données d'entraînement possiblement biaisées
Manque de transparence

modèles préentraînés

Utiliser des modèles préentraînés

Diligence raisonnable sur la source du modèle
Bonne réputation
Crédibilité
Examiner la documentation du modèle
Tests additionnels d'équité et de biais

Compromis de mesures

Précision avant équité
Même avec des ensembles de données équilibrés

Compromis sur la précision

Précision moindre pour certains groupes
Ne tient pas compte de la qualité/quantité pour les groupes sous-représentés
La protection de la vie privée réduit la précision

Reconnaissance faciale

Compromis sur la robustesse

Compromis de mesures

Robustesse contre biais
Robustesse contre équité

Conduite professionnelle et devoirs de diligence

Code d'éthique et de conduite
Encadrement variable selon le pays et l'organisation
Responsabilité, non-nuisance, équité
Vie privée et confidentialité des utilisateurs
Impact positif sur la société
Maintenir des normes élevées
Concevoir des systèmes robustes et sécurisés
Inclusifs et non discriminatoires

ACM

¹ https://www.acm.org/code-of-ethics

Passons à la pratique !

Gestion responsable des données en AI

Preparing Video For Download...