Povinnosti nasazovatelů s vysokým rizikem

Porozumění EU AI Act

Dan Nechita

Lead Technical Negotiator, EU AI Act

Povinnosti pro nasazovatele

iStock-1078932568-modified-99672ec9-fa88-4c7b-b9ac-416413b34060.jpg

Nasazovatelé a poskytovatelé sdílejí povinnosti zajistit, aby systémy AI nepředstavovaly hrozbu pro zdraví, bezpečnost a základní práva.

Nasazovatelé musí informovat zaměstnance o využití AI při přidělování úkolů či sledování výkonu.
Nasazovatelé používající vysoce rizikovou AI pro rozhodování musí informovat dotčené osoby.
Příklady: pojistné u životního pojištění, přijímání na školy.

CleanShot 2024-07-31 at 08.22.39.png

Veřejné orgány a nasazovatelé základních služeb musí provést posouzení dopadu na základní práva (FRIA).
FRIA zajišťuje, že AI neporušuje práva; podobné DPIA podle GDPR.
Použití vysoce rizikové AI veřejnými orgány se registruje v databázi EU.

Role poskytovatelů a nasazovatelů se mohou překrývat při podstatných úpravách AI.
Změna zamýšleného účelu AI činí z nasazovatele poskytovatele s jeho povinnostmi.
Příklad: Použití GPT-4 pro nábor činí firmu poskytovatelem AI s vysokým rizikem.

CleanShot 2024-07-31 at 11.09.50.png

Pyramida rizik se čtyřmi úrovněmi.png

Porozumění EU AI Act