Évaluation des risques IA

Stratégie IA

Vidhi Chugh

AI strategist and ethicist

Garde-fous éthiques

 

• UNESCO
  • Besoin de garde-fous
  • Prévenir les risques comme les biais et discriminations
  • Droits humains fondamentaux

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Risques de l’IA

 

• National Institute of Standards and Technology (NIST)

  

 

• Probabilité d’occurrence
• Ampleur des conséquences

¹ https://www.nist.gov/artificial-intelligence

Risques liés aux données

• Vie privée des données
  • Informations sensibles

• Biais des données
  • Pérenniser les biais sociétaux  

Dérapages de l’IA

 

• Biais de genre

 

• Discrimination raciale

Violation de la vie privée

• Amende lourde pour non-respect du RGPD
• Traitement illégal des données
• Images aspirées pour la reconnaissance faciale

 

Impacts métier

Juridique

Impacts métier

Juridique, réputationnel

Impacts métier

Préjudices juridiques, réputationnels et financiers.

Cadres éthiques

Cadres éthiques

Cadres éthiques

Piliers clés de l’évaluation des risques

                Confidentialité

                Équité

             Transparence

             Responsabilité

Réglementation et conformité

• Cycle de vie d’un projet IA

• Réglementation et conformité
  • La responsabilité exige une gouvernance
  • Définir rôles et responsabilités
  • Conformité aux règles de protection des données
  • Recueillir le consentement et anonymiser

Collecte et préparation des données

Évaluer

• Données internes ou à acquérir ?
• Informations sensibles comme les données personnelles (PII) ?
• Population bien représentée ?

Atténuer

• Processus d’intégrité des données
• Chiffrement des identifiants, génération de données synthétiques
• Créer des données équilibrées

Développement et évaluation du modèle

• Expliquer les sorties du modèle
  • Explication et détection des biais
  • Traitement équitable entre catégories

Déploiement et suivi du modèle

 

• Niveau d’impact

• Définir des stratégies d’atténuation

 

 

• Coûts élevés en santé et finance

• Réaligner le comportement du modèle

 

Passons à la pratique !

Stratégie IA