Risques de sécurité propres à l’IA

Sécurité de l’IA et gestion des risques

Angeline Corvaglia

Founder and Digital Transformation Specialist

L’importance de la gestion des risques

représentation de la sécurité favorisant confiance et efficacité

Tirer parti des atouts de façon sûre et responsable
L’approche de la sécurité doit évoluer
Les stratégies de sécurité traditionnelles sont insuffisantes

Pensez aux impacts de l’intégration de l’IA comme à une pièce :

Potentiel
Risques de sécurité

image des deux faces d’une même pièce sur la sécurité IA

Des risques subtils mais dangereux

symbole de l’IA

Biais
Hallucination
Empoisonnement des données
Attaques adversariales
Exposition de données sensibles

Biais de l’IA dans le recrutement

Entraîner l’IA avec des données historiques
Refléter les biais passés
Amplifier le biais
Baisse de confiance envers l’organisation

symbole de biais dans le recrutement

Manipuler une plateforme d’e‑commerce

Plateforme avec système de recommandation IA
Données factices injectées
L’IA recommande des produits impopulaires ou nuisibles
De nombreuses conséquences possibles

symbole de l’IA dans l’e-commerce

Biais de l’IA

symbole du biais de l’IA

Des décisions ultra‑rapides amplifient l’impact des biais

Peuvent favoriser ou nuire injustement

Résultats inéquitables à grande vitesse

Hallucination

Présente des informations fausses ou trompeuses comme vraies

Peut entraîner :

Décisions erronées
Désinformation et perte de confiance

icône représentant l’hallucination

Empoisonnement des données

symbole d’empoisonnement des données

Altération intentionnelle des données d’entraînement

Pousse le système d’IA à dérailler

Prédictions ou décisions erronées
Conséquences majeures

Attaques adversariales

symbole d’attaques adversariales

Fournir des entrées trompeuses

Pendant l’exécution
Difficiles à détecter
Compromettent l’intégrité

Exposition de données sensibles

symbole d’exposition de données sensibles

Volumes importants de données pour l’entraînement et l’exploitation.

point d’exclamation

Risque d’exposition de données sensibles si mal sécurisées

Comprendre les risques pour mieux les gérer

symboles des dommages potentiels

Atténuation proactive des risques

symboles de sécurité proactive

Anticiper les risques
Connaître l’écosystème de sécurité IA
Pérenniser la sécurité de l’IA
Instaurer une culture orientée sécurité
Comprendre les risques du modèle et externes
Aligner la sécurité IA sur les objectifs de l’organisation

Allons-y !

Sécurité de l’IA et gestion des risques