Scalare oltre i PoC

Strategia per l'Intelligenza Artificiale (AI)

Vidhi Chugh

AI strategist and ethicist

Cosa significa scalare?

 

 

• Scalabilità:
  • Gestire più dati, utenti e task
  • Mantenendo performance, qualità e costi sostenibili

 

• Scalare l’AI = ritorni 3x!
  • Integrare nei processi aziendali esistenti

Piattaforme cloud

 

• Da PoC a sviluppo su larga scala

 

• Piattaforma di cloud computing
  • Conformità alle normative sui dati
  • Sicurezza
  • Supporto per architetture multi-cloud e ibride

 

Considerazioni sul deployment

• Analisi di costi e performance
• Governance; facilità di deploy e gestione

Costruire o acquistare

 

• Modello pronto vs algoritmo custom

• Maggior controllo sulle prestazioni

 

• Tempistiche di progetto

• Un algoritmo custom richiede più tempo rispetto a uno già disponibile

Scalabilità e performance

 

• Scalare = previsioni di qualità senza perdere performance

 

• Performance:
  • Accuracy
  • Latency: tempo che il modello impiega per predire
  • Throughput: numero di previsioni in un dato tempo

 

 

Dati su larga scala

• Cuore dei modelli di machine learning

• Gestire il ciclo di vita dei dati

  • Preparare e mantenere

Accesso ai dati

 

• Accessibili solo a reparti specifici; isolati dal resto
  • Genera silos
  • Riduce la trasparenza
  • Modelli inefficienti

 

• Fonti diverse = formati diversi
  • Standardizzare

 

Architettura scalabile

 

 

• Progettare l’architettura giusta

 

• Microservizi
  • Scalano in modo indipendente
  • Flessibilità
  • Reattività

 

• Coordinare le interazioni è difficile

Infrastruttura per scalare

 

• Computazioni dati estese
• Le GPU accelerano i task ma costano di più

 

• Valuta i benefici
  • Velocizza il training del modello
  • Performance migliori
  • A costi aggiuntivi

Snellire i processi AI

• Piano di implementazione dettagliato e design dell’architettura
• Standardizzare e snellire
  • Sviluppo, deployment e monitoraggio dei modelli

¡Vamos a practicar!

Strategia per l'Intelligenza Artificiale (AI)