Risques externes en IA
Sécurité de l’IA et gestion des risques
Angeline Corvaglia
Founder and Digital Transformation Expert
Risques internes
Au sein de la conception ou des données
Risques externes
Acteurs externes
- Manipulent le modèle
- Ciblent différents aspects
Risques externes courants
Attaques par entrées adverses
- Agissent en phase d’inférence (sur de nouvelles données)
- Influencent la prise de décision
Exemple
- Légère altération d’image
- Mauvaise classification
Corruption et empoisonnement des données
- Agissent en phase d’entraînement
- Visent l’intégrité de l’apprentissage
Exemple
- Faux avis produits
- Biaisent un système de recommandation e-commerce
Vol et inversion de modèle
- Vise des données sensibles
- Exploite le modèle lui‑même
Exemple
- Utiliser des entrées manipulées pour révéler des données privées d’entraînement
Attaques d’infrastructure
- Visent les environnements physiques et virtuels
- Attaquent l’infrastructure
Exemple
- Saturer les serveurs d’IA de requêtes pour les surcharger et les rendre indisponibles
Attaques sur la chaîne d’approvisionnement
- Compromettre des composants ou bibliothèques
- Exploiter les briques des modèles d’IA
Exemple
- Injecter une faille dans une bibliothèque largement utilisée
Bonnes pratiques de sécurité
Autres bonnes pratiques
Les risques évoluent vite
