Clasificarea sistemelor IA cu risc ridicat

Înțelegerea Actului UE privind IA

Dan Nechita

Lead Technical Negotiator, EU AI Act

Context

Sisteme IA cu risc ridicat

Sisteme IA biometrice
IA în educație și ocupare
IA în servicii esențiale
IA în aplicarea legii sau migrație
IA în infrastructură critică

Biometrie

Utilizarea sistemelor IA biometrice, precum identificarea biometrică la distanță și recunoașterea emoțiilor, poate afecta viața privată din cauza supravegherii continue și a posibilei utilizări abuzive a datelor personale sensibile.

Blocuri de clădiri sunt suprapuse cu pătrate digitale care evidențiază oameni în viața de zi cu zi văzuți prin ferestre. Unele pătrate au cursoare.

¹ Imagine: Emily Rand & LOTI / Better Images of AI / AI City / CC-BY 4.0

Educație și angajare

Utilizarea IA în educație și angajare poate discrimina și afecta șansele viitoare ale persoanelor.

Servicii esențiale

Utilizarea IA pentru a decide asupra serviciilor esențiale poate afecta critic accesul persoanelor la servicii vitale.

¹ Yasmin Dwiputri & Data Hazards Project / Better Images of AI / IA în diverse industrii. / CC-BY 4.0

Aplicarea legii

Utilizarea IA în aplicarea legii, migrație, azil sau control la frontieră poate afecta semnificativ drepturile și libertatea persoanelor.

Untitled design5.png

Infrastructură critică

IA utilizată în infrastructuri critice poate amenința sănătatea, siguranța și procesele democratice.

Untitled design4.png

IA încorporată

Every AI rule

IA încorporată în produse existente are aceleași proprietăți

IA încorporată

Acoperite automat: dispozitive medicale, utilaje, jucării, echipamente radio, ambarcațiuni de agrement, instalații pe cablu

De modificat: aviație civilă, auto de orice tip, echipamente maritime, sisteme feroviare

¡Vamos a practicar!

Înțelegerea Actului UE privind IA