Évaluation des risques liés à l'IA

Stratégie d'intelligence artificielle (IA)

Vidhi Chugh

AI strategist and ethicist

Garde-fous éthiques

 

• UNESCO
  • Besoin de garde-fous
  • Prévenir les risques comme les biais et la discrimination
  • Droits humains fondamentaux

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Risques liés à l'IA

 

• National Institute of Standards and Technology (NIST)

  

 

• Probabilité d'occurrence
• Ampleur des conséquences

¹ https://www.nist.gov/artificial-intelligence

Risques liés aux données

• Confidentialité des données
  • Renseignements sensibles

• Biais des données
  • Perpétuer des biais sociétaux  

Quand l'IA déraille

 

• Biais de genre

 

• Discrimination raciale

Atteinte à la confidentialité des données

• Amende lourde pour non-conformité au RGPD
• Traitement illicite de données
• Images aspirées pour la reconnaissance faciale

 

Incidences pour l'entreprise

Juridique

Incidences pour l'entreprise

Juridique, réputationnelle

Incidences pour l'entreprise

Préjudices juridiques, réputationnels et financiers.

Cadres éthiques

Cadres éthiques

Cadres éthiques

Piliers clés de l'évaluation des risques

                Confidentialité

                Équité

             Transparence

             Responsabilisation

Réglementation et conformité

• Cycle de vie d'un projet d'IA

• Réglementation et conformité
  • La responsabilisation exige une gouvernance
  • Définir les rôles et responsabilités
  • Respecter les lois sur la confidentialité des données
  • Obtenir le consentement et anonymiser les données

Collecte et préparation des données

Évaluer

• Disponible à l'interne ou à se procurer à l'externe ?
• Renseignements sensibles comme des informations personnellement identifiables (PII) ?
• Population bien représentée ?

Atténuer

• Processus pour l'intégrité des données
• Chiffrement des identifiants, génération de données synthétiques
• Créer des données équilibrées

Développement et évaluation du modèle

• Expliquer les résultats du modèle
  • Explication et détection des biais
  • Traitement équitable entre catégories

Déploiement et surveillance du modèle

 

• Degré d'impact

• Mettre en place des stratégies d'atténuation

 

 

• Coûts élevés en santé et en finance

• Réaligner le comportement du modèle

 

Passons à la pratique !

Stratégie d'intelligence artificielle (IA)