Obrigações de implantadores de alto risco

Entendendo a Lei de IA da UE

Dan Nechita

Lead Technical Negotiator, EU AI Act

Obrigações de implantadores

iStock-1078932568-modified-99672ec9-fa88-4c7b-b9ac-416413b34060.jpg

Implantadores e provedores compartilham obrigações para garantir que sistemas de IA não ameacem a saúde, a segurança e os direitos fundamentais.

Implantadores devem informar trabalhadores sobre uso de IA em alocação de tarefas ou monitoramento de desempenho.
Quem usa IA de alto risco para decisões deve informar as pessoas afetadas.
Ex.: prêmios de seguro de vida, admissão em instituições de ensino.

CleanShot 2024-07-31 at 08.22.39.png

Autoridades públicas e prestadores de serviços essenciais devem fazer uma Avaliação de Impacto sobre Direitos Fundamentais (FRIA).
A FRIA garante que a IA não viole direitos, similar à DPIA do GDPR.
Uso de IA de alto risco por autoridades públicas deve ser registrado no banco de dados da UE.

Papéis de provedores e implantadores podem se sobrepor com mudanças substanciais na IA.
Alterar o propósito previsto da IA torna o implantador um provedor, com obrigações de provedor.
Ex.: usar o GPT-4 para contratação torna a empresa provedora de IA de alto risco.

CleanShot 2024-07-31 at 11.09.50.png

Pirâmide de risco com quatro níveis.png

Entendendo a Lei de IA da UE