Publicar el modelo

Machine Learning de extremo a extremo

Joshua Stapleton

Machine Learning Engineer

Modelo como servicio

  • Personas interesadas / usuarios acceden al modelo por internet

  • Exponer el modelo vía un portal

    • Los usuarios envían consultas / datos
    • Reciben diagnósticos / predicciones

  • Preocupaciones:

    • Clínica rural / sin internet
    • Entorno muy seguro / datos sensibles

Símbolo de portal que muestra modelo como servicio

Machine Learning de extremo a extremo

Serving en el dispositivo

Arquitecturas integradas de serving

  • Edge computing
  • Útil con internet poco fiable

Engranajes en una cabeza que muestran cómputo en el dispositivo

Machine Learning de extremo a extremo

Pros y contras del serving en el dispositivo

Pros:

  • Menor latencia
  • Seguridad
  • Aplicaciones en zonas remotas / desconectadas

Contras:

  • Recursos limitados
  • Actualizaciones del modelo
  • Monitoreo
Machine Learning de extremo a extremo

Estrategias de implementación

  • Poda
  • Transfer learning
  • Usar frameworks dedicados

Icono que muestra estrategia

Machine Learning de extremo a extremo

¡Vamos a practicar!

Machine Learning de extremo a extremo

Preparing Video For Download...