Obblighi dei provider ad alto rischio

Capire l'EU AI Act

Dan Nechita

Lead Technical Negotiator, EU AI Act

Concetto di finalità prevista

L’AI Act bilancia obblighi di builder e user
Si basa sul concetto di "finalità prevista"

Immagine che bilancia builder e user

Concetto di finalità prevista

Esempio:

IA per identificazione animali

Immagine di IA per identificare animali

Concetto di finalità prevista

Esempio:

IA per identificazione animali
Usata per il pricing delle polizze vita
Uso improprio sconsigliato e probabilmente inefficace
L’azienda che ha costruito il sistema non ha obblighi ai sensi dell’AI Act
- Ha creato un sistema IA a rischio zero
Gli obblighi spettano al deployer

Immagine di IA per pricing assicurazioni vita

Concetto di finalità prevista

Adattare i prodotti alle esigenze

Valutazione di conformità

I provider di sistemi IA ad alto rischio devono svolgere e documentare una "valutazione di conformità" per garantire sicurezza e compliance, anche in autocertificazione.

Gestione del rischio e governance

Serve un sistema di gestione del rischio per identificare e mitigare i rischi

La governance dei dati deve garantire dati di training imparziali e adeguati allo scopo, considerando l’impatto sui vari gruppi

Documentazione

CleanShot 2024-07-31 at 11.34.15.png

Creare documentazione dettagliata e abilitare la conservazione dei registri per compliance e tracciabilità
Fornire ai deployer info su funzionalità, uso corretto, limiti e possibili abusi
Garantire supervisione umana e misure per accuratezza, robustezza e cybersecurity

Altri obblighi

Garantire la conformità

Ayo berlatih!

Capire l'EU AI Act