Sistemas de recomendação

Introdução aos embeddings com o OpenAI API

Emmanuel Pire

Senior Software Engineer, DataCamp

Sistemas de recomendação com embeddings

Muito parecido com busca semântica!

Processo:

Crie embeddings das possíveis recomendações e do ponto de dados

Um ponto de dados azul e vários pontos vermelhos no espaço vetorial.

Sistemas de recomendação com embeddings

Muito parecido com busca semântica!

Processo:

Crie embeddings das possíveis recomendações e do ponto de dados
Calcule distâncias cosseno

Um ponto de dados azul e vários pontos vermelhos no espaço vetorial. Há uma linha entre cada ponto vermelho e o azul para indicar a distância cosseno.

Sistemas de recomendação com embeddings

Muito parecido com busca semântica!

Processo:

Crie embeddings das possíveis recomendações e do ponto de dados
Calcule distâncias cosseno
Recomende os itens mais próximos

Os três pontos vermelhos mais próximos foram destacados.

Exemplo: Artigos recomendados

articles = [
    {"headline": "Economic Growth Continues Amid Global Uncertainty",
     "topic": "Business",
     "keywords": ["economy", "business", "finance"]},
    ...
    {"headline": "1.5 Billion Tune-in to the World Cup Final",
     "topic": "Sport",
     "keywords": ["soccer", "world cup", "tv"]}
]


current_article = {"headline": "How NVIDIA GPUs Could Decide Who Wins the AI Race",
                   "topic": "Tech",
                   "keywords": ["ai", "business", "computers"]}

Combinando atributos

def create_article_text(article):
  return f"""Headline: {article['headline']}
Topic: {article['topic']}
Keywords: {', '.join(article['keywords'])}"""

article_texts = [create_article_text(article) for article in articles]
current_article_text = create_article_text(current_article)
print(current_article_text)

Headline: How NVIDIA GPUs Could Decide Who Wins the AI Race
Topic: Tech
Keywords: ai, business, computers

Criando embeddings

def create_embeddings(texts):
  response = openai.Embedding.create(
    model="text-embedding-3-small",
    input=texts
  )
  response_dict = response.model_dump()

  return [data['embedding'] for data in response_dict['data']]

current_article_embeddings = create_embeddings(current_article_text)[0]
article_embeddings = create_embeddings(article_texts)

Encontrando o artigo mais similar

def find_n_closest(query_vector, embeddings, n=3):
  distances = []
  for index, embedding in enumerate(embeddings):
    dist = spatial.distance.cosine(query_vector, embedding)
    distances.append({"distance": dist, "index": index})
  distances_sorted = sorted(distances, key=lambda x: x["distance"])
  return distances_sorted[0:n]

hits = find_n_closest(current_article_embeddings, article_embeddings)


for hit in hits:
  article = articles[hit['index']]
  print(article['headline'])

Encontrando o artigo mais similar

Tech Giant Buys 49% Stake In AI Startup
Tech Company Launches Innovative Product to Improve Online Accessibility
Scientists Make Breakthrough Discovery in Renewable Energy

Adicionando histórico do usuário

user_history = [
    {"headline": "How NVIDIA GPUs Could Decide Who Wins the AI Race",
     "topic": "Tech",
     "keywords": ["ai", "business", "computers"]},
    {"headline": "Tech Giant Buys 49% Stake In AI Startup",
     "topic": "Tech",
     "keywords": ["business", "AI"]}
]

Recomendações em múltiplos pontos de dados

Um gráfico mostrando artigos com embeddings, onde os do histórico do usuário estão em azul e os que ele não viu estão em vermelho.

Recomendações em múltiplos pontos de dados

Processo:

Combine vários vetores em um, tomando a média
Calcule distâncias cosseno

Um ponto calculado pela média dos dois vetores foi adicionado entre os dois pontos.

Recomendações em múltiplos pontos de dados

Processo:

Combine vários vetores em um, tomando a média
Calcule distâncias cosseno
Recomende o vetor mais próximo

O ponto vermelho mais próximo foi destacado para recomendação.

Recomendações em múltiplos pontos de dados

Processo:

Combine vários vetores em um, tomando a média
Calcule distâncias cosseno
Recomende o vetor mais próximo

O ponto mais próximo agora está em azul para enfatizar que o código deve excluir artigos que o usuário já leu.

Recomendações em múltiplos pontos de dados

Processo:

Combine vários vetores em um, tomando a média
Calcule distâncias cosseno
Recomende o vetor mais próximo
- Garanta que ainda não foi lido

O ponto vermelho mais próximo, agora um pouco mais distante, foi destacado.

Recomendações em múltiplos pontos de dados

def create_article_text(article):
  return f"""Headline: {article['headline']}
Topic: {article['topic']}
Keywords: {', '.join(article['keywords'])}"""

history_texts = [create_article_text(article) for article in user_history]
history_embeddings = create_embeddings(history_texts)

mean_history_embeddings = np.mean(history_embeddings, axis=0)


articles_filtered = [article for article in articles if article not in user_history]

article_texts = [create_article_text(article) for article in articles_filtered]
article_embeddings = create_embeddings(article_texts)

Recomendações em múltiplos pontos de dados

hits = find_n_closest(mean_history_embeddings, article_embeddings)


for hit in hits:
  article = articles_filtered[hit['index']]
  print(article['headline'])

Tech Company Launches Innovative Product to Improve Online Accessibility
New Social Media Platform Has Everyone Talking!
Scientists Make Breakthrough Discovery in Renewable Energy

Vamos praticar!

Introdução aos embeddings com o OpenAI API