Obrigações do provedor de alto risco

Entendendo a Lei de IA da UE

Dan Nechita

Lead Technical Negotiator, EU AI Act

Conceito de finalidade pretendida

O AI Act equilibra obrigações de quem cria e de quem usa
Baseia-se no conceito de “finalidade pretendida”

Imagem equilibrando quem cria e quem usa

Conceito de finalidade pretendida

Exemplo:

IA para identificação de animais

Imagem usando IA para identificar animais

Conceito de finalidade pretendida

Exemplo:

IA para identificar animais
Usada para precificação de seguro de vida
Uso indevido não recomendado e provavelmente ineficaz
A empresa que criou o sistema não tem obrigações sob o AI Act
- Criou um sistema sem risco
As obrigações ficam com quem implanta

Imagem usando IA para precificação de seguro de vida

Conceito de finalidade pretendida

Adequando produtos às necessidades

Avaliação de conformidade

Provedores de sistemas de IA de alto risco devem realizar e documentar uma “avaliação de conformidade” para garantir segurança e conformidade, que pode ser autodeclarada.

Gestão de riscos e governança

Provedores precisam de um sistema de gestão de riscos para identificar e mitigar riscos

Medidas de governança de dados devem garantir dados de treinamento imparciais e adequados, considerando o impacto em diferentes grupos

Documentação

CleanShot 2024-07-31 at 11.34.15.png

Provedores devem criar documentação detalhada e permitir registros para conformidade e rastreabilidade
Fornecer a quem implanta info sobre recursos, uso correto, limitações e possíveis abusos
Garantir supervisão humana e medidas de precisão, robustez e cibersegurança

Outras obrigações

Garantindo conformidade

Vamos praticar!

Entendendo a Lei de IA da UE