Risques des modèles

Sécurité de l’IA et gestion des risques

Angeline Corvaglia

Founder and Digital Transformation Expert

Suivre les risques sur le cycle de vie

représentation du cycle de vie de l’IA

Pendant le développement

  • Données équitables et précises
  • Apprentissage efficace
  • Risques de déployer un système défectueux

point

Après le déploiement

  • Les modèles peuvent évoluer (dériver) dans le temps
  • Mener à des sorties biaisées ou inexactes
Sécurité de l’IA et gestion des risques

Sept risques courants des modèles

  échiquier représentant les risques des modèles

 

  • Manque de transparence et d’interprétabilité
  • Biais
  • Hallucination
  • Dérive du modèle
  • Surapprentissage
  • Sous-apprentissage
  • Fuite de données
Sécurité de l’IA et gestion des risques

  image représentant la transparence

 

Transparence

  • Comment les modèles prennent des décisions

Interprétabilité

  • Pourquoi un modèle produit certains résultats

point d’exclamation

Dans les domaines sensibles (santé, finance)

  • Le processus de décision
  • Est aussi important que la décision elle‑même
Sécurité de l’IA et gestion des risques

Biais

Préférences ou préjugés injustes

  • Données d’entraînement biaisées
  • Algorithmes
  • Données non représentatives ou défectueuses
  • Hypothèses humaines

À détecter et atténuer pour des systèmes d’IA équitables et éthiques

Biais de l’IA

Sécurité de l’IA et gestion des risques

Hallucination

icône représentant une hallucination

Surviennent pour plusieurs raisons :

  • Données d’entraînement insuffisantes
  • Hypothèses incorrectes
  • Biais dans les données
Sécurité de l’IA et gestion des risques

Dérive du modèle

Auparavant précis

  • Perd sa pertinence
  • Et son exactitude

Le modèle se brouille :

  • Données différentes
  • Nouveaux motifs dans les données

représentation de la dérive du modèle

Sécurité de l’IA et gestion des risques

Apprentissage efficace et précis

représentation de l’apprentissage

Surapprentissage (overfitting)

  • Apprend trop de détails

ampoule

Sous-apprentissage (underfitting)

  • Trop simple pour apprendre

ampoule

Fuite de données

  • Données externes incluses dans l’entraînement
Sécurité de l’IA et gestion des risques

IA explicable (XAI)

 

  • Méthodes et techniques
  • Décisions compréhensibles par l’humain
  • Explications du raisonnement derrière la sortie d’un modèle

représentation de l’IA explicable

Sécurité de l’IA et gestion des risques

Des systèmes d’IA plus robustes, équitables et sûrs

 

  • Mesures de sécurité
  • Développement responsable
  • Impact à long terme

flèche

Doit être bénéfique pour tous

  représentation d’une IA robuste, équitable et sûre

Sécurité de l’IA et gestion des risques

Passons à la pratique !

Sécurité de l’IA et gestion des risques

Preparing Video For Download...