Rischi dei modelli

AI Security and Risk Management

Angeline Corvaglia

Founder and Digital Transformation Expert

Monitorare i rischi nel ciclo di vita

rappresentazione del ciclo di vita dell'IA

Durante lo sviluppo

  • Dati equi e accurati
  • Apprende in modo efficace
  • Rischi nel distribuire sistemi difettosi

punto

Dopo la messa in produzione

  • I modelli possono cambiare (drift) nel tempo
  • Portare a output distorti o inesatti
AI Security and Risk Management

Sette rischi comuni dei modelli

  scacchiera per rappresentare i rischi dei modelli

 

  • Scarsa trasparenza e interpretabilità del modello
  • Bias
  • Allucinazioni
  • Model drift
  • Overfitting
  • Underfitting
  • Data leakage
AI Security and Risk Management

  immagine che rappresenta la trasparenza

 

Trasparenza

  • Come i modelli di IA prendono decisioni

Interpretabilità

  • Perché un modello produce certi output

punto esclamativo

In ambiti sensibili come sanità o finanza

  • Processo decisionale
  • Importante quanto la decisione stessa
AI Security and Risk Management

Bias

Preferenze o pregiudizi sleali

  • Dati di training distorti
  • Algoritmi
  • Dati non rappresentativi o difettosi
  • Assunzioni umane

Da rilevare e mitigare per sistemi di IA equi ed etici

Bias dell'IA

AI Security and Risk Management

Allucinazioni

icona che rappresenta l'hallucination

Accadono per molte ragioni:

  • Dati di training insufficienti
  • Assunzioni errate
  • Bias nei dati
AI Security and Risk Management

Model drift

Prima accurate

  • Perdono rilevanza
  • Accuratezza

Il modello si confonde per:

  • Dati diversi
  • Pattern diversi nei dati

rappresentazione del model drift

AI Security and Risk Management

Apprendimento efficace e accurato

rappresentazione dell'apprendimento

Overfitting

  • Impara troppi dettagli

lampadina

Underfitting

  • Troppo semplice per imparare

lampadina

Data leakage

  • Dati esterni inclusi nel training
AI Security and Risk Management

IA spiegabile (XAI)

 

  • Metodi e tecniche
  • Decisioni comprensibili alle persone
  • Spiegazioni del ragionamento dietro l'output

rappresentazione di IA spiegabile

AI Security and Risk Management

Sistemi di IA più robusti, equi e sicuri

 

  • Misure di sicurezza
  • Sviluppo responsabile
  • Impatto a lungo termine

freccia

Devono essere benefici per tutti

  rappresentazione di IA robuste, eque e sicure

AI Security and Risk Management

Passiamo alla pratica !

AI Security and Risk Management

Preparing Video For Download...