Povinnosti poskytovatelů vysoce rizikových systémů

Porozumění EU AI Act

Dan Nechita

Lead Technical Negotiator, EU AI Act

Koncept zamýšleného účelu

AI Act vyvažuje povinnosti tvůrců a uživatelů
Opírá se o koncept „zamýšleného účelu“

Obrázek vyvažující tvůrce a uživatele

Koncept zamýšleného účelu

Příklad:

AI pro rozpoznávání zvířat

Obrázek použití AI k rozpoznávání zvířat

Koncept zamýšleného účelu

Příklad:

AI pro rozpoznávání zvířat
Použita pro stanovení ceny životního pojištění
Zneužití nedoporučeno a pravděpodobně neúčinné
Společnost, která systém vytvořila, nemá povinnosti dle AI Act
- Vytvořila nerizikový systém AI
Povinnosti nese nasazovatel

Obrázek použití AI pro stanovení ceny životního pojištění

Koncept zamýšleného účelu

Přizpůsobení produktů potřebám

Posouzení shody

Poskytovatelé vysoce rizikových systémů AI musí provést a zdokumentovat „posouzení shody“ k zajištění bezpečnosti a souladu; může být provedeno samohodnocením.

Řízení rizik a správa

Poskytovatelé potřebují systém řízení rizik k identifikaci a zmírnění rizik

Správa dat musí zajistit nestranná a účelná tréninková data s ohledem na dopad na různé skupiny

Dokumentace

CleanShot 2024-07-31 at 11.34.15.png

Vytvořit podrobnou dokumentaci a umožnit vedení záznamů pro soulad a sledovatelnost
Poskytnout nasazovatelům informace o funkcích, správném použití, omezeních a možném zneužití
Zajistit lidský dohled a opatření pro přesnost, robustnost a kyberbezpečnost

Další povinnosti

Zajištění souladu

Pusťme se do cvičení!

Porozumění EU AI Act