Introduktion till helt automatiserad MLOps

Fullt automatiserad MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps i industriell miljö

Vilka vanliga mål har företag med maskininlärning?

  • Utveckla ML-verktyg och produkter som använder data för att
    • Bättre betjäna kunder
    • Optimera processer

En bild som visar hur ett företag kan använda maskininlärningssystem för att förbättra interna processer eller kundorienterade tjänster.

Fullt automatiserad MLOps

Optimering för värdeskapande

Företag strävar efter att maximera vinsten

  • Maskininlärning kan användas för att öka lönsamheten
  • Genom att analysera kostnader och intäkter kan ett företag uppskatta potentiell vinst
  • Rätt antal ML-användningsfall kan resultera i vinst

Ett diagram med en kurva. På x-axeln visas antalet maskininlärningsprojekt. På y-axeln visas intäkterna från projekten. Kurvan stiger tills den planar ut vid 6 projekt och en intäkt på ca 25 miljoner. Därefter minskar intäkterna utan att öka igen.

Fullt automatiserad MLOps

Kostnader inom mjukvaruutveckling

Förväntade kostnader i ett traditionellt mjukvaruutvecklingsprojekt:

  • Utvecklingskostnader
  • Projektledning
  • UI/UX-design
  • Kvalitetssäkring
Fullt automatiserad MLOps

Teknisk skuld inom mjukvaruutveckling

Teknisk skuld eller designskuld:

  • Kostnaden för omarbete som orsakas av dålig design

Bild på två ingenjörer framför ett dåligt byggt hus. Den ene säger till den andre: "Jag förstår inte varför det tar så lång tid att sätta in ett nytt fönster."

1 https://vincentdnl.com/drawings/
Fullt automatiserad MLOps

Dold teknisk skuld i ML-system

Maskininlärning: "Kreditkortet med hög ränta för teknisk skuld"[1].

Dold teknisk skuld kan kopplas till:

  1. Data som används för att träna ML-modellerna
  2. Modellerna som driver ML-systemet
  3. Infrastrukturen som ML-systemet använder
  4. Övervakningen av ML-systemet
1 https://research.google/pubs/pub43146/
Fullt automatiserad MLOps

Kostnader för maskininlärningsprojekt

Minskad vinst till följd av teknisk skuld i ML-system: $$ $$

Bild med två figurer, var och en med en kurva. I den första figuren beräknas en uppskattad intäkt på 25 miljoner dollar. I den andra figuren har denna intäkt sjunkit till 10 miljoner dollar.

Fullt automatiserad MLOps

Det högräntade kreditkortet för teknisk skuld

ML-system kan vara komplexa och svåra att hantera.

En bild som visar de många komponenterna i ett ML-system. ML-koden är en liten komponent i mitten. Runt den finns konfiguration, datainsamling, datavalidering, hantering av maskinresurser, serveringsinfrastruktur, övervakning, analysverktyg, processhanteringsverktyg och särdragsextraktion.

Fullt automatiserad MLOps

MLOps: Det bästa sättet att betala

Om ML är kreditkortet med hög ränta för teknisk skuld, är MLOps det bästa sättet att betala av den.

MLOps kan omfatta:

  • Automatiserad testning
  • Automatiserad experimentspårning
  • Automatiserad övervakning

För att hålla den tekniska skulden på ett minimum

Fullt automatiserad MLOps

Nu kör vi en övning!

Fullt automatiserad MLOps

Preparing Video For Download...