Risques externes en IA
Sécurité de l'IA et gestion des risques
Angeline Corvaglia
Founder and Digital Transformation Expert
Risques internes
Au sein de la conception ou des données
Risques externes
Acteurs externes
- Manipulent le modèle
- Ciblent différents aspects
Risques externes courants
Attaques par intrants adversaires
- Affectent la phase d'inférence (à l'arrivée de nouvelles données)
- Influencent la prise de décision
Exemple
- Modifier légèrement l'image
- Provoquer une mauvaise classification
Corruption et empoisonnement des données
- Affectent la phase d'entraînement
- Visent l'intégrité de l'apprentissage
Exemple
- Faux avis sur des produits
- Affecter un système de recommandation en commerce électronique
Vol et inversion de modèle
- Ciblent des renseignements sensibles
- Exploitent le modèle lui-même
Exemple
- Utiliser des intrants manipulés pour dévoiler des données privées utilisées à l'entraînement
Attaques d'infrastructure
- Ciblent les environnements physiques et virtuels
- Attaquent l'infrastructure
Exemple
- Inonder les serveurs d'IA de requêtes pour les surcharger et les rendre inaccessibles
Attaques de la chaîne d'approvisionnement
- Compromettre des composants ou des bibliothèques
- Exploiter les blocs de construction des modèles d'IA
Exemple
- Injecter une vulnérabilité dans une bibliothèque largement utilisée
Pratiques exemplaires de sécurité
Autres pratiques exemplaires
Les risques évoluent vite
