Škálování nad rámec PoC

Strategie umělé inteligence (AI)

Vidhi Chugh

AI strategist and ethicist

Co znamená škálovat?

 

 

• Škálovatelnost:
  • Správa rostoucího objemu dat, uživatelů a úloh
  • Zachování výkonu, kvality a cenové dostupnosti

 

• Škálování AI = 3× vyšší výnosy!
  • Integrace do stávajících obchodních procesů

Platformy cloud computingu

 

• Od PoC k plnohodnotnému nasazení

 

• Platforma cloud computingu
  • Soulad s předpisy o datech
  • Bezpečnost
  • Podpora multi-cloud a hybridních architektur

 

Aspekty nasazení

• Analýza nákladů a výkonu
• Opatření pro správu; snadné nasazení a správa

Vytvořit nebo koupit

 

• Hotový model vs. vlastní algoritmus

• Větší kontrola nad výkonem systému

 

• Časové harmonogramy projektů

• Vlastní algoritmus je časově náročnější než dostupný algoritmus

Škálovatelnost a výkon

 

• Škálování = kvalitní predikce bez snížení výkonu

 

• Výkon:
  • Přesnost
  • Latence: doba, za kterou model vytvoří predikci
  • Propustnost: počet predikcí za daný čas

 

 

Data ve velkém měřítku

• Základ modelů strojového učení

• Správa životního cyklu dat

  • Příprava a údržba

Přístup k datům

 

• Přístupná jen pro určitá oddělení; izolovaná od ostatních
  • Vznik sil
  • Snížení transparentnosti
  • Neefektivní modely

 

• Různé zdroje = různé formáty
  • Standardizace

 

Architektura připravená na škálování

 

 

• Návrh správné architektury

 

• Mikroslužby
  • Nezávislé škálování
  • Flexibilita
  • Responzivita

 

• Koordinace interakcí je náročná

Infrastruktura pro škálování

 

• Rozsáhlé datové výpočty
• GPU urychlují úlohy, ale za vyšší náklady

 

• Zvažte přínosy
  • Urychlení trénování modelu
  • Zlepšení výkonu
  • Za dodatečné náklady

Zefektivnění procesů AI

• Podrobný implementační plán a návrh architektury
• Standardizace a zefektivnění
  • Tvorba, nasazení a monitorování modelů

Pojďme si procvičit!

Strategie umělé inteligence (AI)