Vektordatenbanken für Embedding-Systeme

Einführung in Embeddings mit der OpenAI API

Emmanuel Pire

Senior Software Engineer, DataCamp

Grenzen des aktuellen Ansatzes

Alle Embeddings in den Speicher laden (1536 Floats ~ 13 kB/Embedding)
Embeddings für jede neue Abfrage neu berechnen
Kosinusdistanzen für jedes Embedding berechnen und sortieren ist langsam und skaliert linear

Ein Diagramm zeigt, wie Dokumente und Abfrage bei jeder Abfrage ohne Speicherlösung eingebettet werden.

Vektordatenbanken

Eingebettete Dokumente werden in der Vektordatenbank gespeichert und abgefragt

Ein Diagramm zeigt, wie eine Vektordatenbank Dokument-Embeddings speichert und basierend auf einer eingebetteten Abfrage Ergebnisse an die Nutzerin/den Nutzer zurückgibt.

NoSQL-Datenbank

Flexiblere Struktur, die schnellere Abfragen ermöglicht

Beispiele für NoSQL-Datenbankschemata, darunter Key:Value-, Dokument- und Graphdatenbanken.

SQL/Relationale Datenbank

Strukturierte Daten in Tabellen, Zeilen und Spalten

Tabellen mit Spalten und Zeilen in einer SQL- bzw. relationalen Datenbank.

Zu speichernde Komponenten

Embeddings
Quelltexte
Metadaten
- IDs und Referenzen
- Zusätzliche Daten zum Filtern von Ergebnissen

Top-Tipp: Speichere den Quelltext nicht als Metadaten!

Ein Symbol für eine Vektordatenbank.

Die Vektordatenbank-Landschaft

Viele der beliebtesten Vektordatenbank-Lösungen, sortiert nach Closed Source vs. Open Source und ob sie dedizierte Vektordatenbanken sind oder nicht.

¹ Image Credit: Yingjun Wu

Welche Lösung ist die beste?

Datenbankbetrieb:
- Managed → teurer, aber weniger Aufwand
- Selbst verwaltet → günstiger, braucht Zeit und Know-how
Open Source oder kommerziell?
- Open Source → flexibel und kostengünstig
- Kommerziell → besserer Support, mehr Features und Compliance

Datenmodelle: Eignet sich der Datentyp für einen bestimmten Datenbanktyp?
Spezielle Features: Hängt dein Use Case von Funktionen wie multimodaler Speicherung ab?

Lass uns üben!

Einführung in Embeddings mit der OpenAI API