Depășirea etapei PoC

Strategie de Inteligență Artificială (AI)

Vidhi Chugh

AI strategist and ethicist

Ce înseamnă scalarea?

 

 

• Scalabilitate:
  • Gestionarea datelor, utilizatorilor și sarcinilor în creștere
  • Menținerea performanței, calității și eficienței costurilor

 

• Scalarea AI = randamente de 3x mai mari!
  • Integrare în procesele de afaceri existente

Platforme de cloud computing

 

• De la PoC la dezvoltare la scară completă

 

• Platformă de cloud computing
  • Conformitate cu reglementările privind datele
  • Securitate
  • Suport pentru arhitecturi multi-cloud și hibride

 

Considerații privind implementarea

• Analiză de costuri și performanță
• Măsuri de guvernanță; ușurință în implementare și administrare

Construire vs. achiziție

 

• Model gata de utilizare vs. algoritm personalizat

• Control mai mare asupra performanței sistemului

 

• Calendarul proiectului

• Algoritmul personalizat necesită mai mult timp față de unul existent

Scalabilitate și performanță

 

• Scalare = predicții de calitate fără compromiterea performanței

 

• Performanță:
  • Acuratețe
  • Latență: timpul necesar modelului pentru o predicție
  • Debit: numărul de predicții într-un interval dat

 

 

Date la scară

• Nucleul modelelor de machine learning

• Gestionarea ciclului de viață al datelor

  • Pregătire și întreținere

Acces la date

 

• Accesibil unor departamente specifice; izolat de restul
  • Creează silozuri
  • Reduce transparența
  • Modele ineficiente

 

• Surse diferite = formate diferite
  • Standardizare

 

Arhitectură scalabilă

 

 

• Proiectarea arhitecturii potrivite

 

• Microservicii
  • Scalare independentă
  • Flexibilitate
  • Reactivitate

 

• Coordonarea interacțiunilor este dificilă

Infrastructură pentru scalare

 

• Calcule pe date extensive
• GPU-urile accelerează sarcinile, dar la costuri mai mari

 

• Evaluați beneficiile
  • Accelerarea antrenării modelelor
  • Performanță îmbunătățită
  • La costuri suplimentare

Eficientizarea proceselor AI

• Plan detaliat de implementare și design al arhitecturii
• Standardizare și eficientizare
  • Construire, implementare și monitorizare a modelelor

Să exersăm!

Strategie de Inteligență Artificială (AI)