Risques de sécurité propres à l'IA

Sécurité de l'IA et gestion des risques

Angeline Corvaglia

Founder and Digital Transformation Specialist

L'importance de la gestion des risques

représentation de la sécurité favorisant la confiance et l'efficacité

Tirer parti des avantages de façon sûre et responsable
L'approche de la sécurité doit évoluer
Les stratégies de sécurité traditionnelles ne suffisent pas

Pensez aux impacts de l'intégration de l'IA comme à une pièce de monnaie :

Potentiel
Risques de sécurité

image des deux faces d'une même pièce sur la sécurité de l'IA

Des risques subtils mais dangereux

symbole de l'IA

Biais
Hallucination
Empoisonnement des données
Attaques par évasion
Exposition de données sensibles

Biais d'IA dans un système d'embauche

Entraîner l'IA avec des données historiques
Reproduire les biais passés
Amplifier le biais
Baisse de confiance envers l'organisation

symbole de biais à l'embauche

Manipulation d'une plateforme d'achat en ligne

Plateforme avec système de recommandation par IA
Données falsifiées injectées
L'IA recommande des produits impopulaires ou nuisibles
De multiples conséquences possibles

symbole de l'IA pour l'achat en ligne

Biais de l'IA

symbole du biais de l'IA

Décisions ultra rapides : l'impact des biais s'amplifie

Favoriser ou nuire injustement

Résultats inéquitables à grande vitesse

Hallucination

Présente des informations fausses ou trompeuses comme des vérités

Peut mener à :

Prises de décision biaisées
Désinformation et perte de confiance

icône représentant l'hallucination

Empoisonnement des données

symbole de l'empoisonnement des données

Altération intentionnelle des données d'entraînement

L'IA dérive de sa trajectoire

Prédictions ou décisions erronées
Conséquences majeures

Attaques par évasion

symbole des attaques par évasion

Fournir des entrées trompeuses

Pendant l'exploitation
Difficiles à détecter
Compromettent l'intégrité

Exposition de données sensibles

symbole d'exposition de données sensibles

Grandes quantités de données pour l'entraînement et l'exploitation.

point d'exclamation

Risque d'exposition de données sensibles si la sécurité est insuffisante

Comprendre les risques pour mieux les gérer

symboles de dommages potentiels

Atténuation proactive des risques

symboles de dommages potentiels

Anticiper les risques
Connaître l'écosystème de sécurité de l'IA
Pérenniser la sécurité de l'IA
Instaurer une culture sensible à la sécurité
Comprendre les risques liés au modèle et externes
Arrimer la sécurité de l'IA aux objectifs de l'organisation

Plongeons dans le sujet !

Sécurité de l'IA et gestion des risques