Database vettoriali per sistemi di embedding

Introduzione agli Embeddings con l'API di OpenAI

Emmanuel Pire

Senior Software Engineer, DataCamp

Limiti dell'approccio attuale

Caricare tutti gli embedding in memoria (1536 float ~ 13 kB/embedding)
Ricalcolare gli embedding per ogni nuova query
Calcolare le distanze coseno per ogni embedding e ordinare è lento e scala linearmente

Schema che mostra come i documenti e la query vengono incorporati a ogni richiesta senza soluzione di storage.

I documenti incorporati vengono archiviati e interrogati dal database vettoriale

Schema che mostra l’uso di un database vettoriale per archiviare gli embedding dei documenti e restituire risultati basati su una query incorporata.

Esempi di schemi NoSQL: key:value, documenti e grafi.

Tabelle con colonne e righe in un database SQL, o relazionale.

Suggerimento: non salvare il testo sorgente come metadato!

Icona di un database vettoriale.

Molte tra le soluzioni di database vettoriali più diffuse, ordinate per closed source o open source e per specializzazione.

¹ Crediti immagine: Yingjun Wu

Gestione del database:
- Gestito → più costoso ma riduce il lavoro
- Autogestito → più economico ma richiede tempo e competenze
Open source o commerciale?
- Open source → flessibile e conveniente
- Commerciale → supporto migliore, più funzionalità e compliance

Modelli di dati: il tipo di dato suggerisce un certo tipo di database?
Funzionalità specifiche: il caso d’uso richiede funzioni particolari, es. storage multimodale?

Introduzione agli Embeddings con l'API di OpenAI