Cadres d’évaluation des risques IA
Sécurité de l’IA et gestion des risques
Angeline Corvaglia
Founder and Digital Transformation Expert
Évaluations formelles des risques
- Quoi inclure
- Pourquoi c’est important
- Comment guider les actions
À combiner avec des contrôles et contrepoids internes continus
Quels avantages ?
Éléments d’une évaluation des risques
AI Act de l’UE
L’évaluation des risques est essentielle
- Risque inacceptable
- Risque élevé
- Risque limité
- Risque minimal
Pour les systèmes d’IA à haut risque
- Évaluation des risques
- Dispositif de gestion des risques
Contrôles et contrepoids internes
- Détecter les risques émergents ou les comportements inattendus
- Définis sur la base de l’évaluation des risques
- Servir d’alerte précoce
Exemples :
- Tests de biais réguliers
- Dégradation des performances
Il ne s’agit pas juste de cocher des cases
Les évaluations des risques tracent une feuille de route
Les contrôles et contrepoids internes sont les garde-fous
Gestion des risques efficace
- Vigilance continue
- Appuyée par des contrôles formels
