Säkerhetsrisker specifika för AI

AI-säkerhet och riskhantering

Angeline Corvaglia

Founder and Digital Transformation Specialist

Vikten av riskhantering

• Utnyttja fördelarna säkert och ansvarsfullt
• Synsättet på säkerhet måste förändras
• Traditionella säkerhetsstrategier räcker inte

Se konsekvenserna av att integrera AI som ett mynt med två sidor:

• Potential
• Säkerhetsrisker

Subtila men farliga risker

• Bias
• Hallucination
• Dataförgiftning
• Adversariella attacker
• Exponering av känsliga data

AI-bias i rekryteringssystem

1. AI tränas med historiska data
2. Återspeglar tidigare bias
3. Förstärker biasen
4. Förtroendet för organisationen minskar

Manipulation av en näthandelsplattform

1. Plattform med AI-rekommendationssystem
2. Falska data matas in
3. AI rekommenderar impopulära eller skadliga produkter
4. Många potentiella konsekvenser

AI-bias

Blixtsnabba beslut förstärker effekten av bias

Gynnar eller missgynnar orättvist

Ojämlika utfall i alarmerande takt

Hallucination

• Presenterar felaktig eller vilseledande information som sanning

Kan leda till:

• Felaktiga beslut
• Desinformation och bristande förtroende

Dataförgiftning

Avsiktlig manipulering av träningsdata

Gör att AI-systemet spårar ur

• Felaktiga prediktioner eller beslut
• Betydande konsekvenser

Adversariella attacker

Vilseledande indata presenteras

• Under systemets drift
• Svårt att upptäcka
• Äventyrar integriteten

Exponering av känsliga data

Stora datamängder krävs för träning och drift.

Risk för exponering av känsliga data om de inte skyddas tillräckligt

Förstå riskerna för att kunna hantera dem

Proaktiv riskminskning

• Förutse risker
• Känna till AI-säkerhetsekosystemet
• Framtidssäkra AI-säkerheten
• Bygg en säkerhetsmedveten kultur
• Förstå modell- och externa risker
• Anpassa AI-säkerheten till organisationens mål

Nu kör vi en övning!

AI-säkerhet och riskhantering