MLOps

Strategien für künstliche Intelligenz (KI)

Vidhi Chugh

AI strategist and ethicist

Operationalisierung

Fortschrittliche KI-Modelle für den normalen Geschäftsbetrieb.

Advanced AI models

Strategien für künstliche Intelligenz (KI)

Versionskontrolle für Code und Daten

  • Experimente führen zu mehreren Codeversionen

Experiments result in multiple code versions

  • Wird über Versionskontrollsysteme gepflegt
  • Datenversionen

Data versions

  • Neue Daten oder neue Funktionen
Strategien für künstliche Intelligenz (KI)

Plattformunabhängigkeit / Portabilität

  • Laufzeitumgebungen von ML-Projekten
    • Training
    • Validierung
    • Produktion

 

  • Konsistenz über den ganzen Lebenszyklus hinweg

    • Bibliotheken
    • Frameworks
    • Versionen

 

Libraries, frameworks, and versions

Strategien für künstliche Intelligenz (KI)

Der richtige Zeitpunkt zum Nachdenken!

  • Verwaltung verschiedener Versionen und Abhängigkeiten

Focus is on immediate business value

  • Der Fokus liegt auf dem unmittelbaren geschäftlichen Nutzen
  • Skalierbarkeit und Architektur als nachgelagerter Gedanke

Scalability and architecture

  • Ad-hoc-Ansätze bringen Herausforderungen mit sich
Strategien für künstliche Intelligenz (KI)

Automatisiertes Datenmanagement

  • Aufwand, Trainingsdaten neu vorzubereiten
  • Fehler, Änderungen oder Aktualisierungen
  • Automatisiertes Datenmanagement für hohe Qualität
  • Qualitätskontrollen und Warnmeldungen

Errors, changes, or updates

Automated data management for quality

Quality checks and alerts

Strategien für künstliche Intelligenz (KI)

Notwendigkeit der Automatisierung

  • Manuelle Eingriffe = Verzögerungen
    • Verminderte Modellleistung
    • Fehleranalyse
    • Korrekturmaßnahme

Manual interventions

Model performance

 

  • Bereits viel Zeit vergangen
  • Falsche Vorhersagen
  • Negative Auswirkungen
Strategien für künstliche Intelligenz (KI)

Code-Umgestaltung

 

Refactor the initial code

 

  • Fehlende bewährte Verfahren im Engineering-Bereich

 

  • Ursprünglicher Code muss überarbeitet werden
    • Erhebliches Risiko
    • Die ursprüngliche Logik wird falsch verstanden oder falsch dargestellt
Strategien für künstliche Intelligenz (KI)

Was macht eine gute Architektur aus?

 

  • Für zuverlässige Systeme bedarf es Arbeit
  • MLOps = Standardisierung von Prozessen und automatisierten Pipelines

 

  • Automatisierung:
    • Wiederverwendbare Module – Datenprodukte, Code
    • Automatisierte Test-Frameworks
    • Verringert das Risiko von Refactorings

 

Automation

Strategien für künstliche Intelligenz (KI)

Was macht eine gute Architektur aus?

 

Docker bundles model with environment

 

  • Docker bündelt Modelle mit Abhängigkeiten / lauffähiger Umgebung

  • Weniger manuelle Eingriffe = effizienter Lebenszyklus

  • Modellleistung aufrechterhalten

 

  • MLOps zur Überwachung der Modelle
    • 30 % weniger verworfene Modelle
    • 60 % Wertsteigerung
Strategien für künstliche Intelligenz (KI)

Lass uns üben!

Strategien für künstliche Intelligenz (KI)

Preparing Video For Download...