Risques liés aux modèles
Sécurité de l'IA et gestion des risques
Angeline Corvaglia
Founder and Digital Transformation Expert
Surveiller les risques tout au long du cycle de vie
Pendant le développement
- Données équitables et précises
- Apprentissage efficace
- Risques de déployer un système défectueux
Après le déploiement
- Les modèles peuvent évoluer (dériver) dans le temps
- Mener à des résultats biaisés ou erronés
Sept risques courants des modèles
Transparence
- Comment les modèles d'IA prennent des décisions
Interprétabilité
- Pourquoi un modèle produit certains résultats
Dans des secteurs sensibles comme la santé ou la finance
- Le processus décisionnel
- Est aussi important que la décision elle-même
Biais
Hallucination
Dérive du modèle
Apprentissage efficace et précis
Surapprentissage
- Apprend trop de détails
Sous-apprentissage
- Trop simple pour apprendre
Fuite de données
- Données externes incluses à l'entraînement
IA explicable (XAI)
Des systèmes d'IA plus robustes, équitables et sécurisés
- Mesures de sécurité
- Développement responsable
- Impacts à long terme
Doivent être bénéfiques pour tous
