Skalierung über einen PoC hinaus

Strategien für künstliche Intelligenz (KI)

Vidhi Chugh

AI strategist and ethicist

Was heißt es, zu skalieren?

 

 

• Skalierbarkeit:
  • Verwaltung zunehmender Datenmengen, Nutzer und Aufgaben
  • Leistung, Qualität und Erschwinglichkeit aufrechterhalten

 

• Skalierung von KI = dreimal höhere Renditen!
  • In bestehende Geschäftsprozesse einbauen

Cloud-Computing Plattformen

 

• Vom Proof of Concept zur vollumfänglichen Entwicklung

 

• Cloud-Computing-Plattform
  • Einhaltung der Datenschutzbestimmungen
  • Sicherheit
  • Unterstützt Multi-Cloud- und Hybrid-Cloud-Architekturen

 

Überlegungen zur Bereitstellung

• Kosten- und Leistungsanalyse
• Governance-Maßnahmen; einfache Bereitstellung und Verwaltung

Selbst entwickeln oder zukaufen?

 

• Standardmodell vs. maßgeschneiderter Algorithmus

• Mehr Kontrolle über die Systemleistung

 

• Projektzeitpläne

• Algorithmus-Eigenentwicklung braucht mehr Zeit

Skalierbarkeit und Leistung

 

• Skalierung = hochwertige Vorhersagen ohne Leistungseinbußen

 

• Leistung:
  • Genauigkeit
  • Latenz: Wie lange braucht das Modell für die Vorhersage?
  • Durchsatz: Anzahl der Vorhersagen in einer bestimmten Zeit

 

 

Daten in großem Maßstab

• Herzstück von Modellen für maschinelles Lernen

• Den Datenlebenszyklus verwalten

  • Vorbereitung und Wartung

Zugang zu Daten

 

• Für bestimmte Abteilungen zugänglich; vom Rest isoliert
  • Resultiert in Silos
  • Reduziert die Transparenz
  • Ineffiziente Modelle

 

• Verschiedene Quellen = verschiedene Formate
  • Standardisieren

 

Architekturen für Skalierung

 

 

• Die richtige Architektur entwerfen

 

• Mikroservices
  • Unabhängig voneinander skalieren
  • Flexibilität
  • Reaktionsschnelligkeit

 

• Die Koordination der Interaktion ist schwierig

Infrastruktur für Skalierung

 

• Umfangreiche Datenberechnungen
• GPUs erledigen Aufgaben schneller, kosten aber mehr

 

• Abwägung der Vorteile
  • Beschleunigtes Modelltraining
  • Bessere Performance
  • Aufpreis

KI-Prozesse optimieren

• Detaillierter Plan für die Umsetzung und das Design der Architektur
• Standardisieren und optimieren
  • Modellierung, Bereitstellung und Überwachung

Lass uns üben!

Strategien für künstliche Intelligenz (KI)