Skala bortom PoC:er

Artificiell intelligens (AI) – strategi

Vidhi Chugh

AI strategist and ethicist

Vad innebär det att skala?

 

 

• Skalbarhet:
  • Hantera ökande data, användare och uppgifter
  • Bibehålla prestanda, kvalitet och kostnadseffektivitet

 

• Att skala AI = 3x högre avkastning!
  • Integrera i befintliga affärsprocesser

Molnplattformar

 

• Från PoC till fullskalig utveckling

 

• Molnplattform
  • Efterlevnad av dataregler
  • Säkerhet
  • Stöd för multi-cloud och hybrid-cloud-arkitekturer

 

Driftsättningsöverväganden

• Kostnads- och prestandaanalys
• Styrningsåtgärder; enkel driftsättning och hantering

Bygga eller köpa?

 

• Färdig modell vs. anpassad algoritm

• Större kontroll över systemprestanda

 

• Projekttidsramar

• Anpassad algoritm tar längre tid än en färdig algoritm

Skalbarhet och prestanda

 

• Skalning = kvalitetsprediktioner utan att kompromissa med prestanda

 

• Prestanda:
  • Noggrannhet
  • Latens: tid som modellen tar för en prediktion
  • Genomströmning: antal prediktioner under en given tid

 

 

Data i stor skala

• Kärnan i maskininlärningsmodeller

• Hantera datas livscykel

  • Förbereda och underhålla

Tillgång till data

 

• Tillgänglig för specifika avdelningar; isolerad från övriga
  • Leder till silos
  • Minskar transparens
  • Ineffektiva modeller

 

• Olika källor = olika format
  • Standardisera

 

Arkitektur för skalning

 

 

• Utforma rätt arkitektur

 

• Mikrotjänster
  • Skala oberoende av varandra
  • Flexibilitet
  • Responsivitet

 

• Att samordna interaktionen är utmanande

Infrastruktur för skalning

 

• Omfattande databeräkningar
• GPU:er snabbar upp uppgifter men till ökad kostnad

 

• Väg för- och nackdelar
  • Påskynda modellträning
  • Förbättrad prestanda
  • Till extra kostnad

Effektivisera AI-processer

• Detaljerad implementationsplan och arkitekturdesign
• Standardisera och effektivisera
  • Modellbygge, driftsättning och övervakning

Nu kör vi en övning!

Artificiell intelligens (AI) – strategi