Valutazione dei rischi dell’IA

Strategia per l'Intelligenza Artificiale (AI)

Vidhi Chugh

AI strategist and ethicist

Paletti etici

 

• UNESCO
  • Servono regole di salvaguardia
  • Prevenire rischi come bias e discriminazione
  • Diritti umani fondamentali

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Rischi dell’IA

 

• National Institute of Standards and Technology (NIST)

  

 

• Probabilità di accadimento
• Entità delle conseguenze

¹ https://www.nist.gov/artificial-intelligence

Rischi sui dati

• Privacy dei dati
  • Informazioni sensibili

• Bias nei dati
  • Perpetuano bias sociali  

IA fuori controllo

 

• Pregiudizio di genere

 

• Discriminazione razziale

Violazione della privacy dei dati

• Maxi-multa per non conformità al GDPR
• Trattamento illecito dei dati
• Immagini web scrappate per il riconoscimento facciale

 

Implicazioni per il business

Legali

Implicazioni per il business

Legali, reputazionali

Implicazioni per il business

Danni legali, reputazionali e finanziari.

Framework etici

Framework etici

Framework etici

Pilastri chiave della valutazione dei rischi

                Privacy

                Equità

             Trasparenza

             Responsabilità

Norme e conformità

• Ciclo di vita dei progetti IA

• Norme e conformità
  • La responsabilità richiede governance
  • Definisci ruoli e responsabilità
  • Rispetta le norme sulla privacy dei dati
  • Chiedi il consenso e anonimizza i dati

Raccolta e preparazione dei dati

Valuta

• Disponibili internamente o da acquisire esternamente?
• Informazioni sensibili come PII (dati personali identificabili)?
• Popolazione ben rappresentata?

Mitiga

• Processi per l’integrità dei dati
• Cifratura degli identificatori, dati sintetici
• Crea dati bilanciati

Sviluppo ed evaluation del modello

• Spiega gli output del modello
  • Spiegabilità e rilevazione dei bias
  • Trattamento equo tra categorie

Deploy e monitoraggio del modello

 

• Grado di impatto

• Definisci strategie di mitigazione

 

 

• Costo elevato in sanità e finanza

• Riallinea il comportamento del modello

 

Ayo berlatih!

Strategia per l'Intelligenza Artificiale (AI)