Rischi di sicurezza specifici dell’IA

AI Security and Risk Management

Angeline Corvaglia

Founder and Digital Transformation Specialist

L’importanza della gestione del rischio

• Sfruttare i benefici in modo sicuro e responsabile
• L’approccio alla sicurezza deve cambiare
• Le strategie di sicurezza tradizionali non bastano

Pensa agli impatti dell’integrazione dell’IA come a una moneta:

• Potenziale
• Rischi di sicurezza

Rischi sottili ma pericolosi

• Bias
• Allucinazioni
• Data poisoning
• Attacchi avversari
• Esposizione di dati sensibili

Bias dell’IA nel sistema di selezione

1. Addestrare l’IA con dati storici
2. Riflette i bias passati
3. Amplifica il bias
4. Calo di fiducia nell’organizzazione

Manipolare una piattaforma di e‑commerce

1. Piattaforma con sistema di raccomandazione IA
2. Dati falsi inseriti
3. L’IA consiglia prodotti impopolari o dannosi
4. Numerose possibili conseguenze

Bias dell’IA

Decisioni fulminee, amplificano l’impatto del bias

Favoriscono o danneggiano in modo ingiusto

Esiti disuguali a velocità allarmante

Allucinazione

• Presenta info errate o fuorvianti come vere

Può portare a:

• Decisioni sbagliate
• Disinformazione e perdita di fiducia

Data poisoning

Manomissione intenzionale dei dati di training

Porta il sistema IA a deragliare

• Previsioni o decisioni errate
• Gravi conseguenze

Attacchi avversari

Fornire input fuorvianti

• Durante l’esecuzione
• Difficili da rilevare
• Compromettono l’integrità

Esposizione di dati sensibili

Grandi quantità di dati per training e operatività.

Rischio di esposizione di dati sensibili se non ben protetti

Capire i rischi per poterli gestire

Mitigazione proattiva del rischio

• Anticipare i rischi
• Conoscere l’ecosistema della sicurezza IA
• Rendere futura-proof la sicurezza IA
• Creare una cultura attenta alla sicurezza
• Capire rischi del modello ed esterni
• Allineare la sicurezza IA agli obiettivi aziendali

Iniziamo!

AI Security and Risk Management