Klassificering av högrisk-AI-system

Förstå EU:s AI-förordning

Dan Nechita

Lead Technical Negotiator, EU AI Act

Bakgrund

Högrisk-AI-system

Biometriska AI-system
AI inom utbildning och arbete
AI inom samhällstjänster
AI inom brottsbekämpning eller migration
AI inom kritisk infrastruktur

Biometri

Biometriska AI-system, som fjärrbiometrisk identifiering och känsloigenkänning, kan kränka individers integritet genom kontinuerlig övervakning och potentiellt missbruk av känsliga personuppgifter.

Byggnadsklossar är täckta med digitala rutor som framhäver människor i vardagen genom fönster. Några rutor har muspekare.

¹ Image: Emily Rand & LOTI / Better Images of AI / AI City / CC-BY 4.0

Utbildning och arbete

AI inom utbildning och arbete kan diskriminera individer och påverka deras framtida möjligheter.

Samhällstjänster

AI som används för beslut om samhällstjänster kan allvarligt påverka individers tillgång till viktiga tjänster.

¹ Yasmin Dwiputri & Data Hazards Project / Better Images of AI / AI across industries. / CC-BY 4.0

Brottsbekämpning

AI inom brottsbekämpning, migration, asyl eller gränskontroll kan påverka individers rättigheter och frihet avsevärt.

Untitled design5.png

Kritisk infrastruktur

AI i kritisk infrastruktur kan hota hälsa, säkerhet och demokratiska processer.

Untitled design4.png

Inbyggd AI

Every AI rule

Inbyggd AI i befintliga produkter har samma egenskaper

Inbyggd AI

Automatiskt inkluderat: medicintekniska produkter, maskiner, leksaker, radioutrustning, fritidsbåtar, linbaneanläggningar

Ska ändras: civil luftfart, fordon av alla slag, marin utrustning, järnvägssystem

Låt oss öva!

Förstå EU:s AI-förordning