Obligaciones de los proveedores de alto riesgo

Comprender la Ley de IA de la UE

Dan Nechita

Lead Technical Negotiator, EU AI Act

Concepto de propósito previsto

La Ley de IA equilibra obligaciones de creadores y usuarios
Se basa en el concepto de «propósito previsto»

Imagen que equilibra al creador y al usuario

Concepto de propósito previsto

Ejemplo:

IA para identificar animales

Imagen que usa IA para identificar animales

Concepto de propósito previsto

Ejemplo:

IA para identificar animales
Usada para tarificación de seguros de vida
Uso indebido no recomendado y probablemente ineficaz
La empresa que creó el sistema no tiene obligaciones bajo la Ley de IA
- Construyó una IA sin riesgo
Las obligaciones recaen en el desplegador

Imagen que usa IA para tarificación de seguros de vida

Concepto de propósito previsto

Adaptar productos a las necesidades

Evaluación de conformidad

Los proveedores de sistemas de IA de alto riesgo deben realizar y documentar una «evaluación de conformidad» para garantizar la seguridad y el cumplimiento; puede ser autoevaluada.

Gestión de riesgos y gobernanza

Los proveedores necesitan un sistema de gestión de riesgos para identificar y mitigar riesgos

La gobernanza de datos debe garantizar datos de entrenamiento imparciales y adecuados al propósito, considerando el impacto en distintos grupos

Documentación

CleanShot 2024-07-31 at 11.34.15.png

Crear documentación detallada y habilitar registros para cumplimiento y trazabilidad
Proporcionar a los desplegadores información sobre funciones, uso correcto, limitaciones y posibles malos usos
Garantizar supervisión humana y medidas de precisión, robustez y ciberseguridad

Otras obligaciones

Garantizar el cumplimiento

¡Vamos a practicar!

Comprender la Ley de IA de la UE