Riscuri externe în IA
Securitatea și managementul riscurilor în AI
Angeline Corvaglia
Founder and Digital Transformation Expert
Riscuri interne
În cadrul proiectării sau datelor
Riscuri externe
Actori externi
- Manipulează modelul
- Vizează aspecte diferite
Riscuri externe frecvente
Atacuri adversariale asupra intrărilor
- Afectează faza de inferență (la întâlnirea cu date noi)
- Influențează luarea deciziilor
Exemplu
- Modificarea ușoară a imaginii
- Clasificare incorectă
Coruperea și otrăvirea datelor
- Afectează faza de antrenare
- Vizează integritatea învățării
Exemplu
- Recenzii false de produse
- Afectează un sistem de recomandare e-commerce
Furtul și inversiunea modelului
- Vizează informații sensibile
- Exploatează modelul în sine
Exemplu
- Utilizarea intrărilor manipulate pentru a extrage date private din antrenare
Atacuri asupra infrastructurii
- Vizează mediile fizice și virtuale
- Atacă infrastructura
Exemplu
- Supraîncărcarea serverelor IA cu cereri pentru a le face inaccesibile
Atacuri asupra lanțului de aprovizionare
- Compromit componente sau biblioteci
- Exploatează elementele de bază ale modelelor IA
Exemplu
- Injectarea unei vulnerabilități într-o bibliotecă utilizată pe scară largă
Bune practici de securitate
Mai multe bune practici
Riscurile evoluează rapid
