Obligațiile furnizorilor cu risc ridicat

Înțelegerea Actului UE privind IA

Dan Nechita

Lead Technical Negotiator, EU AI Act

Conceptul de scop intenționat

Actul IA echilibrează obligațiile constructorilor și utilizatorilor
Se bazează pe conceptul de „scop intenționat”

Imagine care echilibrează constructorul și utilizatorul

Conceptul de scop intenționat

Exemplu:

IA pentru identificarea animalelor

Imagine care folosește IA pentru identificarea animalelor

Conceptul de scop intenționat

Exemplu:

IA pentru identificarea animalelor
Folosită pentru tarifarea asigurărilor de viață
Utilizare neadecvată, nerecomandată și probabil ineficientă
Compania care a construit sistemul nu are obligații conform Actului IA
- A construit un sistem IA fără risc
Obligațiile revin utilizatorului final (deployer)

Imagine care folosește IA pentru tarifarea asigurărilor de viață

Conceptul de scop intenționat

Personalizarea produselor pentru nevoi

Evaluarea conformității

Furnizorii de sisteme IA cu risc ridicat trebuie să efectueze și să documenteze o „evaluare a conformității” pentru siguranță și conformitate, care poate fi autoevaluată.

Managementul riscului și guvernanță

Furnizorii au nevoie de un sistem de management al riscurilor pentru identificare și atenuare

Guvernanța datelor trebuie să asigure date de antrenare imparțiale și adecvate scopului, ținând cont de impactul asupra grupurilor

Documentație

CleanShot 2024-07-31 at 11.34.15.png

Furnizorii trebuie să creeze documentație detaliată și să permită păstrarea registrelor pentru conformitate și trasabilitate
Să furnizeze utilizatorilor informații despre funcții, utilizare corectă, limitări și posibile abuzuri
Să asigure supraveghere umană și măsuri pentru acuratețe, robustețe și securitate cibernetică

Alte obligații

Asigurarea conformității

Să exersăm!

Înțelegerea Actului UE privind IA