Retos de la IA responsable

Gestión responsable de datos en AI

Maria Prokofieva

Lead ML Engineer

Prácticas reales de gestión responsable de datos

Compleja

Implica compensaciones

Requiere criterio profesional

IA responsable: círculo azul con una mano sosteniendo un chip de IA ilustrado

Compensaciones comunes

Compensaciones

Dimensiones de IA responsable

Factores de negocio

Beneficio sobre equidad y privacidad
Ingresos sobre pruebas y seguridad

Modelos preentrenados

Reducir costes
Ahorrar tiempo y recursos
Sin recopilar datos ni entrenar
Puede tener datos de entrenamiento sesgados
Falta de transparencia

modelos preentrenados

Uso de modelos preentrenados

Diligencia debida sobre el origen del modelo
Buena reputación
Credibilidad
Revisar la documentación del modelo
Pruebas extra de equidad y sesgo

Compensación de métricas

Precisión sobre equidad
Incluso con datos balanceados

Compensaciones de precisión

Menor precisión en grupos concretos
No considera calidad o cantidad de datos de grupos poco representados
La privacidad reduce la precisión

Reconocimiento facial

Compensaciones de robustez

Compensación de métricas

Robustez vs. sesgo
Robustez vs. equidad

Conducta profesional y deber de cuidado

Código de ética y conducta
La guía varía por país y organización
Responsabilidad, no causar daño, equidad
Privacidad y confidencialidad del usuario
Impacto positivo en la sociedad
Mantener altos estándares
Desarrollar sistemas robustos y seguros
Inclusivos y no discriminatorios

ACM

¹ https://www.acm.org/code-of-ethics

¡Vamos a practicar!

Gestión responsable de datos en AI

Preparing Video For Download...