Opschalen voorbij PoC’s

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

Wat betekent schalen?

 

 

• Schaalbaarheid:
  • Meer data, gebruikers en taken aan kunnen
  • Met behoud van prestaties, kwaliteit en betaalbaarheid

 

• AI schalen = 3x hogere opbrengst!
  • Integreer in bestaande bedrijfsprocessen

Cloudplatforms

 

• Van PoC naar volledige uitrol

 

• Cloudplatform
  • Voldoet aan datawetgeving
  • Veiligheid
  • Ondersteunt multi- en hybride cloud

 

Overwegingen bij uitrol

• Kosten- en prestatieanalyse
• Governance; eenvoudig uitrollen en beheren

Bouwen of kopen

 

• Kant-en-klaar model vs. maatwerkalgoritme

• Meer grip op systeemprestaties

 

• Projecttijdlijnen

• Maatwerk kost meer tijd dan een bestaand algoritme

Schaalbaarheid en prestaties

 

• Schalen = kwaliteitsvoorspellingen zonder prestatieverlies

 

• Prestaties:
  • Nauwkeurigheid
  • Latency: tijd die het model nodig heeft voor voorspelling
  • Throughput: aantal voorspellingen per tijdseenheid

 

 

Data op schaal

• Kern van machinelearningmodellen

• Beheer van de datalevenscyclus

  • Voorbereiden en onderhouden

Toegang tot data

 

• Toegankelijk voor specifieke afdelingen; geïsoleerd van de rest
  • Leidt tot silo’s
  • Minder transparantie
  • Inefficiënte modellen

 

• Verschillende bronnen = verschillende formaten
  • Standaardiseren

 

Architectuur die kan schalen

 

 

• De juiste architectuur ontwerpen

 

• Microservices
  • Apart opschaalbaar
  • Flexibel
  • Responsief

 

• Interactie coördineren is lastig

Infrastructuur voor schaal

 

• Zware datacomputaties
• GPU’s versnellen taken maar verhogen de kosten

 

• Wegen van de baten
  • Sneller model trainen
  • Betere prestaties
  • Tegen extra kosten

AI-processen stroomlijnen

• Gedetailleerd implementatieplan en architectuurontwerp
• Standaardiseren en stroomlijnen
  • Modelbouw, uitrol en monitoring

Laten we oefenen!

Artificial Intelligence (AI) Strategy