Escalar más allá de los PoC

Estrategia de inteligencia artificial (IA)

Vidhi Chugh

AI strategist and ethicist

¿Qué significa escalar?

 

 

• Escalabilidad:
  • Gestionar más datos, usuarios y tareas
  • Mantener rendimiento, calidad y coste

 

• Escalar la IA = 3x más retorno
  • Integrar en procesos del negocio

Plataformas de cloud computing

 

• De PoC a desarrollo a escala

 

• Plataforma de cloud computing
  • Cumplimiento normativo de datos
  • Seguridad
  • Soporta arquitecturas multi‑cloud e híbridas

 

Aspectos de despliegue

• Análisis de coste y rendimiento
• Gobernanza; facilidad de despliegue y gestión

Construir vs. comprar

 

• Modelo listo vs. algoritmo a medida

• Mayor control del rendimiento

 

• Tiempos del proyecto

• Un algoritmo propio lleva más tiempo que uno disponible

Escalabilidad y rendimiento

 

• Escalar = predicciones de calidad sin perder rendimiento

 

• Rendimiento:
  • Precisión
  • Latencia: tiempo que tarda en predecir
  • Throughput: número de predicciones por tiempo

 

 

Datos a escala

• Núcleo de los modelos de ML

• Gestionar el ciclo de vida de datos

  • Preparar y mantener

Acceso a los datos

 

• Accesibles a ciertos departamentos; aislados del resto
  • Genera silos
  • Menos transparencia
  • Modelos ineficientes

 

• Fuentes distintas = formatos distintos
  • Estandarizar

 

Arquitectura que escala

 

 

• Diseñar la arquitectura adecuada

 

• Microservicios
  • Escalan de forma independiente
  • Flexibilidad
  • Capacidad de respuesta

 

• Coordinar interacciones es difícil

Infraestructura para escalar

 

• Cómputo intensivo de datos
• Las GPU aceleran, pero con más coste

 

• Valora los beneficios
  • Acelera el entrenamiento
  • Mejor rendimiento
  • Con costes adicionales

Agiliza los procesos de IA

• Plan de implementación y diseño de arquitectura detallados
• Estandarizar y agilizar
  • Creación, despliegue y monitorización de modelos

¡Vamos a practicar!

Estrategia de inteligencia artificial (IA)