Klasifikasi sistem AI berisiko tinggi

Memahami EU AI Act

Dan Nechita

Lead Technical Negotiator, EU AI Act

Latar belakang

Sistem AI berisiko tinggi

Sistem AI biometrik
AI dalam pendidikan dan ketenagakerjaan
AI dalam layanan esensial
AI dalam penegakan hukum atau migrasi
AI dalam infrastruktur kritis

Biometrik

Penggunaan sistem AI biometrik, seperti identifikasi biometrik jarak jauh dan pengenalan emosi, dapat mengganggu privasi karena pengawasan terus-menerus dan potensi penyalahgunaan data pribadi sensitif.

Balok bangunan dilapisi kotak digital yang menyorot orang-orang beraktivitas di balik jendela. Beberapa kotak disertai kursor.

¹ Image: Emily Rand & LOTI / Better Images of AI / AI City / CC-BY 4.0

Pendidikan dan ketenagakerjaan

Penggunaan AI dalam pendidikan dan ketenagakerjaan berpotensi diskriminatif dan memengaruhi peluang hidup individu di masa depan.

Layanan esensial

Penggunaan AI untuk memutuskan layanan esensial dapat sangat memengaruhi akses individu ke layanan vital.

¹ Yasmin Dwiputri & Data Hazards Project / Better Images of AI / AI across industries. / CC-BY 4.0

Penegakan hukum

Penggunaan AI dalam penegakan hukum, migrasi, suaka, atau kontrol perbatasan dapat berdampak besar pada hak dan kebebasan individu.

Untitled design5.png

Infrastruktur kritis

AI pada infrastruktur kritis dapat mengancam kesehatan, keselamatan, dan proses demokratis.

Untitled design4.png

AI tertanam

Every AI rule

AI yang tertanam dalam produk memiliki sifat yang sama

AI tertanam

Tercakup otomatis: perangkat medis, mesin, mainan, peralatan radio, kapal rekreasi, instalasi kereta kabel

Akan diubah: penerbangan sipil, otomotif segala jenis, peralatan kelautan, sistem perkeretaapian

Ayo berlatih!

Memahami EU AI Act