Externa risker inom AI
AI-säkerhet och riskhantering
Angeline Corvaglia
Founder and Digital Transformation Expert
Interna risker
Innom design eller data
Externa risker
Utomstående aktörer
- Manipulerar modellen
- Riktar in sig på olika aspekter
Vanliga externa risker
Attacker med fientliga indata
- Påverkar inferensfasen (när modellen möter ny data)
- Styr beslutsfattandet
Exempel
- Ändra en bild minimalt
- Felklassificera
Datakorruption och dataförgiftning
- Påverkar träningsfasen
- Riktar in sig på inlärningens integritet
Exempel
- Falska produktrecensioner
- Påverkar ett e-handelsrekommendationssystem
Modellstöld och modellinversion
- Riktar in sig på känslig information
- Utnyttjar modellen i sig
Exempel
- Använder manipulerade indata för att avslöja privat träningsdata
Infrastrukturattacker
- Riktar in sig på fysiska och virtuella miljöer
- Attackerar infrastrukturen
Exempel
- Överöser AI-servrar med förfrågningar för att överbelasta och göra dem otillgängliga
Leveranskedjeattacker
- Komprometterar komponenter eller bibliotek
- Utnyttjar byggstenarna i AI-modeller
Exempel
- Injicerar en sårbarhet i ett allmänt använt bibliotek
Säkerhetspraxis
Mer om bästa praxis
Riskerna förändras snabbt
