Zakelijke uitdagingen en risico’s rond MLOps

MLOps voor bedrijven

Arne Jonas Warnke

Head of Emerging Curriculum

Agenda van hoofdstuk 3

Video: Zakelijke uitdagingen en risico’s rond MLOps:

  • Business challenges and risks related to MLOps

$$

Video: Hoe MLOps-teams succesvol werken:

  • How MLOps teams successfully operate

$$

Video: De stand van MLOps vandaag

  • The state of MLOps today
MLOps voor bedrijven

MLOps is uitdagend

$$ Veel bedrijven worstelen

  • Met operationaliseren
  • Met ontwerp en ontwikkeling automatiseren
  • Met stroomlijnen en opschalen

van hun ML-use-cases

$$

Uitdaging

MLOps voor bedrijven

MLOps vraagt diverse skills

MLOps ligt op het snijvlak van Machine Learning, Data Engineering en Software Engineering

MLOps voor bedrijven

MLOps-uitdagingen: skills

Teams hebben vaak

  • Tekort aan bepaalde cruciale skills
    • Vaak in software engineering

$$

Dit kan leiden tot

  • Technische schuld
  • Gebrek aan standaardisatie
  • Onvoldoende reproduceerbaarheid

Mensen die samenwerken aan een puzzel

MLOps voor bedrijven

MLOps-uitdagingen: samenwerking en cultuur

Samenwerking is cruciaal om te zorgen dat

  • Statistische metrics en business op één lijn liggen
  • Alle stakeholders snappen hoe MLOps-teams werken

$$

Cultuur en gewoontes van

  • Continu leren
  • Erkenning dat fouten gebeuren
  • Documentatie en kennisdeling

$$

Mensen die samenwerken achter een computer

MLOps voor bedrijven

MLOps-uitdagingen: technologie

Technologie

  • Ontwikkelt snel
  • Geen gemeenschappelijke MLOps-toolstack
    • Teams gebruiken heel verschillende technische aanpakken
    • Weinig breed geaccepteerde best practices voor technologie

$$

Veelgemaakte fout

  • Te veel focus op technologie

$$ Een intelligent netwerkdiagram

MLOps voor bedrijven

MLOps-uitdagingen: risico’s

Risico’s bij het runnen van ML-modellen:

  • Business- en financiële risico’s
    • App/model kan niet beschikbaar zijn
    • Voorspellingen kunnen verslechteren
    • Onderhoudsrisico
  • Governance-risico’s
    • Voorspellingen kunnen volledig mis zijn
    • Mogelijke bias
  • (Cyber)veiligheidsrisico’s

$$

Een illustratie van verschillende risico’s

MLOps voor bedrijven

Traditionele softwareprojecten vs. MLOps

Traditionele software

  • Testen, debuggen ...

MLOps

  • Testen, debuggen ...
  • Datamonitoring
  • Monitoring van modeloutput
  • ...

$$ Een persoon die code schrijft

$$ Een hybride mens-robot die code schrijft

MLOps voor bedrijven

Laten we oefenen!

MLOps voor bedrijven

Preparing Video For Download...