Rischi esterni nell’IA

AI Security and Risk Management

Angeline Corvaglia

Founder and Digital Transformation Expert

rischi esterni

Rischi interni

All’interno di design o dati

separatore

Rischi esterni

Attori esterni

  • Manipolano il modello

 

  • Prendono di mira diversi aspetti
AI Security and Risk Management

Rischi esterni comuni

rappresentazione dei rischi esterni

  • Attacchi con input avversari
  • Corruzione e avvelenamento dei dati
  • Furto e inversione del modello
  • Attacchi all’infrastruttura
  • Attacchi alla supply chain
AI Security and Risk Management

Attacchi con input avversari

  • Impattano la fase di inferenza (quando incontra nuovi dati)
  • Influenzano le decisioni

separatore

Esempio

  • Alterare leggermente un’immagine
  • Portare a misclassificazione

rappresentazione degli attacchi con input avversari

AI Security and Risk Management

Corruzione e avvelenamento dei dati

  • Impattano la fase di training
  • Mirano all’integrità dell’apprendimento

lampadina

Esempio

  • Recensioni prodotto false
  • Influenzano un sistema di raccomandazione e-commerce

rappresentazione della corruzione dei dati

AI Security and Risk Management

Furto e inversione del modello

rappresentazione dell’inversione del modello

  • Puntano a informazioni sensibili
  • Sfruttano il modello stesso

lampadina

Esempio

  • Usano input manipolati per scoprire dati privati usati nel training
AI Security and Risk Management

Attacchi all’infrastruttura

rappresentazione degli attacchi all’infrastruttura

  • Colpiscono ambienti fisici e virtuali
  • Attaccano l’infrastruttura

lampadina

Esempio

  • Inondare i server IA di richieste per sovraccaricarli e renderli inaccessibili
AI Security and Risk Management

Attacchi alla supply chain

rappresentazione degli attacchi alla supply chain

  • Compromettono componenti o librerie
  • Sfruttano i mattoni dei modelli IA

lampadina

Esempio

  • Iniettare una vulnerabilità in una libreria molto usata
AI Security and Risk Management

Best practice di sicurezza

  • Audit di sicurezza regolari
  • Validazione e sanificazione dei dati
  • Controlli di accesso forti
  • Crittografia dei dati sensibili
  • Anonimizzazione dei dati

rappresentazione di un kit di strumenti

AI Security and Risk Management

Altre best practice

  • Monitoraggio continuo
  • Usa strumenti affidabili
  • Aggiorna regolarmente gli strumenti
  • Formazione continua

immagine che rappresenta le best practice

AI Security and Risk Management

I rischi evolvono rapidamente

  • Adattamento continuo
  • Apprendimento continuo
  • Gestione proattiva dei rischi
  • Vigilanza

rappresentazione del cambiamento rapido

AI Security and Risk Management

Passiamo alla pratica!

AI Security and Risk Management

Preparing Video For Download...