Ingestione di vettori

Database vettoriali per Embeddings con Pinecone

James Chapman

Curriculum Manager, DataCamp

Creare e connettersi a un indice

pc = Pinecone(api_key="API_KEY")

pc.create_index(
    name='datacamp-index',
    dimension=1536,
    spec=ServerlessSpec(
        cloud='aws', 
        region='us-east-1'
    )
)

index = pc.Index('datacamp-index')

Ingestione di vettori

vectors = [
    {
        "id": "0",
        "values": [0.025525547564029694, ..., 0.0188823901116848]
    },
        ...,
    {
        "id": "9",
        "values": [0.020712468773126602, ..., 0.006418442353606224]
    },
]

Checking dimensionality

vector_dims = [len(vector['values']) == 1536 for vector in vectors]

all(vector_dims)

True

PineconeApiException: (400)
Reason: Bad Request
HTTP response headers: HTTPHeaderDict({'Date': 'Fri, 17 May 2024 10:54:57 GMT', ...
HTTP response body: {"code":3,"message":"Vector dimension 256 does not match the
dimension of the index 1536","details":[]}

Upsert di vettori

.upsert(): Update o insert

index.upsert(

    vectors=vectors

)


index.describe_index_stats()

{'dimension': 1536,
 'index_fullness': 0.0,
 'namespaces': {'': {'vector_count': 10}},
 'total_vector_count': 10}

Ingestione di vettori con metadati

vectors = [
    {
        "id": "0",
        "values": [0.025525547564029694, ..., 0.0188823901116848]
        "metadata": {"genre": "productivity", "year": 2020}
    },
        ...,
]

Metadati: dati sui dati!
- Utili per il filtro per metadati → Capitolo 2

Upsert di vettori con metadati

index.upsert(
    vectors=vectors
)

Ricorda di usare la struttura:

    {
        "id": "0",
        "values": [0.025525547564029694, ..., 0.0188823901116848]
        "metadata": {"genre": "productivity", "year": 2020}
    },
        ...,

Passiamo alla pratica !

Database vettoriali per Embeddings con Pinecone