Obowiązki podmiotów stosujących wysokiego ryzyka

Unijny akt o sztucznej inteligencji

Dan Nechita

Lead Technical Negotiator, EU AI Act

Obowiązki podmiotów stosujących

Dostawcy i podmioty stosujące AI.

Dostawcy i podmioty stosujące mają wspólne obowiązki, aby systemy AI nie zagrażały zdrowiu, bezpieczeństwu ani prawom podstawowym.

Monitorowanie systemów AI.

Podmioty stosujące muszą informować pracowników o wykorzystaniu AI przy przydzielaniu zadań lub monitorowaniu wydajności.
Podmioty stosujące AI wysokiego ryzyka w decyzjach muszą informować osoby, których to dotyczy.
Przykłady: składki ubezpieczenia na życie, rekrutacja do instytucji edukacyjnych.

Obowiązek powiadamiania o AI.

Ocena wpływu na prawa podstawowe.

Organy publiczne i podmioty stosujące świadczące usługi kluczowe muszą przeprowadzić ocenę wpływu na prawa podstawowe (FRIA).
FRIA zapewnia, że AI nie narusza praw – analogicznie do DPIA w RODO.
Stosowanie AI wysokiego ryzyka przez organy publiczne musi być zarejestrowane w bazie danych UE.

Role dostawców i podmiotów stosujących mogą się pokrywać przy istotnych modyfikacjach AI.
Zmiana przeznaczenia AI sprawia, że podmiot stosujący staje się dostawcą z jego obowiązkami.
Przykład: Wykorzystanie GPT-4 do decyzji rekrutacyjnych czyni firmę dostawcą AI wysokiego ryzyka.

Schemat ról dostawcy i podmiotu stosującego

Piramida ryzyka z czterema poziomami.

Unijny akt o sztucznej inteligencji