Рекомендательные системы

Введение в эмбеддинги с OpenAI API

Emmanuel Pire

Senior Software Engineer, DataCamp

Рекомендательные системы с эмбеддингами

 

  • Очень похоже на семантический поиск!

 

Процесс:

  1. Векторизуйте потенциальные рекомендации и точку данных

Одна синяя точка и несколько красных точек в векторном пространстве.

Введение в эмбеддинги с OpenAI API

Рекомендательные системы с эмбеддингами

 

  • Очень похоже на семантический поиск!

 

Процесс:

  1. Векторизуйте потенциальные рекомендации и точку данных
  2. Вычислите косинусные расстояния

Одна синяя точка и несколько красных точек в векторном пространстве. Между каждой красной и синей точкой проведена линия, обозначающая косинусное расстояние.

Введение в эмбеддинги с OpenAI API

Рекомендательные системы с эмбеддингами

 

  • Очень похоже на семантический поиск!

 

Процесс:

  1. Векторизуйте потенциальные рекомендации и точку данных
  2. Вычислите косинусные расстояния
  3. Рекомендуйте ближайшие элементы

Три ближайшие красные точки выделены.

Введение в эмбеддинги с OpenAI API

Пример: рекомендация статей

articles = [
    {"headline": "Economic Growth Continues Amid Global Uncertainty",
     "topic": "Business",
     "keywords": ["economy", "business", "finance"]},
    ...
    {"headline": "1.5 Billion Tune-in to the World Cup Final",
     "topic": "Sport",
     "keywords": ["soccer", "world cup", "tv"]}
]


current_article = {"headline": "How NVIDIA GPUs Could Decide Who Wins the AI Race",
                   "topic": "Tech",
                   "keywords": ["ai", "business", "computers"]}
Введение в эмбеддинги с OpenAI API

Объединение признаков

def create_article_text(article):
  return f"""Headline: {article['headline']}
Topic: {article['topic']}
Keywords: {', '.join(article['keywords'])}"""

article_texts = [create_article_text(article) for article in articles]
current_article_text = create_article_text(current_article)
print(current_article_text)

Headline: How NVIDIA GPUs Could Decide Who Wins the AI Race
Topic: Tech
Keywords: ai, business, computers
Введение в эмбеддинги с OpenAI API

Создание эмбеддингов

def create_embeddings(texts):
  response = openai.Embedding.create(
    model="text-embedding-3-small",
    input=texts
  )
  response_dict = response.model_dump()

  return [data['embedding'] for data in response_dict['data']]

current_article_embeddings = create_embeddings(current_article_text)[0]
article_embeddings = create_embeddings(article_texts)
Введение в эмбеддинги с OpenAI API

Поиск наиболее похожей статьи

def find_n_closest(query_vector, embeddings, n=3):
  distances = []
  for index, embedding in enumerate(embeddings):
    dist = spatial.distance.cosine(query_vector, embedding)
    distances.append({"distance": dist, "index": index})
  distances_sorted = sorted(distances, key=lambda x: x["distance"])
  return distances_sorted[0:n]

hits = find_n_closest(current_article_embeddings, article_embeddings)


for hit in hits:
  article = articles[hit['index']]
  print(article['headline'])
Введение в эмбеддинги с OpenAI API

Поиск наиболее похожей статьи

Tech Giant Buys 49% Stake In AI Startup
Tech Company Launches Innovative Product to Improve Online Accessibility
Scientists Make Breakthrough Discovery in Renewable Energy
Введение в эмбеддинги с OpenAI API

Добавление истории пользователя

user_history = [
    {"headline": "How NVIDIA GPUs Could Decide Who Wins the AI Race",
     "topic": "Tech",
     "keywords": ["ai", "business", "computers"]},
    {"headline": "Tech Giant Buys 49% Stake In AI Startup",
     "topic": "Tech",
     "keywords": ["business", "AI"]}
]
Введение в эмбеддинги с OpenAI API

Рекомендации по нескольким точкам данных

График со встроенными статьями: статьи из истории пользователя показаны синим, непросмотренные — красным.

Введение в эмбеддинги с OpenAI API

Рекомендации по нескольким точкам данных

 

Процесс:

  • Объедините несколько векторов в один, вычислив среднее
  • Вычислите косинусные расстояния

Между двумя точками добавлена точка, вычисленная как среднее двух векторов.

Введение в эмбеддинги с OpenAI API

Рекомендации по нескольким точкам данных

 

Процесс:

  • Объедините несколько векторов в один, вычислив среднее
  • Вычислите косинусные расстояния
  • Рекомендуйте ближайший вектор

Ближайшая красная точка выделена для рекомендации.

Введение в эмбеддинги с OpenAI API

Рекомендации по нескольким точкам данных

 

Процесс:

  • Объедините несколько векторов в один, вычислив среднее
  • Вычислите косинусные расстояния
  • Рекомендуйте ближайший вектор

Ближайшая точка окрашена синим, чтобы подчеркнуть: код должен исключать статьи, уже прочитанные пользователем.

Введение в эмбеддинги с OpenAI API

Рекомендации по нескольким точкам данных

 

Процесс:

  • Объедините несколько векторов в один, вычислив среднее
  • Вычислите косинусные расстояния
  • Рекомендуйте ближайший вектор
    • Убедитесь, что он не прочитан

Выделена ближайшая красная точка — на этот раз более удалённая.

Введение в эмбеддинги с OpenAI API

Рекомендации по нескольким точкам данных

def create_article_text(article):
  return f"""Headline: {article['headline']}
Topic: {article['topic']}
Keywords: {', '.join(article['keywords'])}"""

history_texts = [create_article_text(article) for article in user_history]
history_embeddings = create_embeddings(history_texts)

mean_history_embeddings = np.mean(history_embeddings, axis=0)


articles_filtered = [article for article in articles if article not in user_history]

article_texts = [create_article_text(article) for article in articles_filtered]
article_embeddings = create_embeddings(article_texts)
Введение в эмбеддинги с OpenAI API

Рекомендации по нескольким точкам данных

hits = find_n_closest(mean_history_embeddings, article_embeddings)


for hit in hits:
  article = articles_filtered[hit['index']]
  print(article['headline'])

Tech Company Launches Innovative Product to Improve Online Accessibility
New Social Media Platform Has Everyone Talking!
Scientists Make Breakthrough Discovery in Renewable Energy
Введение в эмбеддинги с OpenAI API

Давайте потренируемся!

Введение в эмбеддинги с OpenAI API

Preparing Video For Download...