Riscurile modelelor
Securitatea și managementul riscurilor în AI
Angeline Corvaglia
Founder and Digital Transformation Expert
Monitorizarea riscurilor pe ciclu de viață
În timpul dezvoltării
- Date corecte și precise
- Învățare eficientă
- Riscurile implementării unui sistem defectuos
După implementare
- Modelele pot evolua (deriva) în timp
- Duc la rezultate părtinite sau inexacte
Șapte riscuri comune ale modelelor
Transparență
- Cum iau decizii modelele AI
Interpretabilitate
- De ce un model produce anumite rezultate
În domenii sensibile, precum sănătatea sau finanțele
- Procesul de luare a deciziilor
- La fel de important ca decizia în sine
Părtinire
Halucinație
Deriva modelului
Învățare eficientă și precisă
Supraajustare
- Învață prea multe detalii
Subajustare
- Prea simplu pentru a învăța
Scurgere de date
- Date externe incluse în antrenare
AI explicabil (XAI)
Sisteme AI mai robuste, echitabile și sigure
- Măsuri de securitate
- Dezvoltare responsabilă
- Impact pe termen lung
Trebuie să fie benefic pentru toți
