Modellrisker

AI-säkerhet och riskhantering

Angeline Corvaglia

Founder and Digital Transformation Expert

Att övervaka risker under livscykeln

representation of AI lifecycle

Under utveckling

Rättvis och korrekt data
Lär sig effektivt
Risker med att driftsätta ett bristfälligt system

dot

Efter driftsättning

Modeller kan förändras (drifta) över tid
Leda till partiska eller felaktiga utdata

Sju vanliga modellrisker

chess board to represent model risks

Brist på modelltransparens och tolkningsbarhet
Bias
Hallucination
Modelldrift
Överanpassning
Underanpassning
Dataläckage

image representing transparency

Transparens

Hur AI-modeller fattar beslut

Tolkningsbarhet

Varför en modell producerar vissa utdata

exclamation point

Innom känsliga områden som sjukvård eller finans

Beslutsprocessen
Lika viktig som beslutet i sig

Bias

Orättvisa preferenser eller fördomar

Partisk träningsdata
Algoritmer
Icke-representativ eller bristfällig data
Mänskliga antaganden

Upptas och motverkas för rättvisa och etiska AI-system

AI bias

Hallucination

icon representing hallucination

Uppstår av många orsaker:

Otillräcklig träningsdata
Felaktiga antaganden
Bias i datan

Modelldrift

Tidigare korrekta

Förlorar sin relevans
Noggrannhet

Modellen blir förvirrad:

Annan data
Andra mönster i datan

representation of model drift

Effektiv och korrekt inlärning

representation of learning

Överanpassning

Lär sig för många detaljer

light bulb

Underanpassning

För enkel för att lära sig

light bulb

Dataläckage

Extern data ingår i träningen

Förklarbar AI (XAI)

Metoder och tekniker
Beslut förståeliga för människor
Förklaringar till resonemanget bakom en modells utdata

explainable AI representation

Mer robusta, rättvisa och säkra AI-system

Säkerhetsåtgärder
Ansvarsfull utveckling
Långsiktig påverkan

Bör vara till nytta för alla

representation of robust, fair & secure AI

Nu kör vi en övning!

AI-säkerhet och riskhantering