Externe AI-risico’s
AI-beveiliging en risicobeheer
Angeline Corvaglia
Founder and Digital Transformation Expert
Interne risico’s
Binnen ontwerp of data
Externe risico’s
Externe actoren
- Manipuleren het model
- Richten op verschillende aspecten
Veelvoorkomende externe risico’s
Adversarial inputaanvallen
- Raken de inferencefase (bij nieuwe data)
- Beïnvloeden beslissingen
Voorbeeld
- Afbeelding licht aanpassen
- Verkeerd classificeren
Datacorruptie en -vergiftiging
- Raken de trainingsfase
- Richten op integriteit van het leren
Voorbeeld
- Valse productreviews
- Beïnvloedt een e-commercerecommendersysteem
Modeldiefstal en -inversie
- Gericht op gevoelige informatie
- Misbruikt het model zelf
Voorbeeld
- Gebruik gemanipuleerde inputs om privé-trainingsdata te achterhalen
Infrastructuuraanvallen
- Richten op fysieke en virtuele omgevingen
- Vallen de infrastructuur aan
Voorbeeld
- AI-servers overspoelen met verzoeken om ze te overbelasten en onbereikbaar te maken
Supplychain-aanvallen
- Compromitteren componenten of libraries
- Misbruiken de bouwstenen van AI-modellen
Voorbeeld
- Kwetsbaarheid injecteren in wijdgebruikte library
Beveiligingsbest practices
Meer best practices
Risico’s evolueren snel
