Системи рекомендацій

Вступ до Embeddings з OpenAI API

Emmanuel Pire

Senior Software Engineer, DataCamp

Системи рекомендацій з embeddings

 

  • Дуже схоже на семантичний пошук!

 

Процес:

  1. Створіть embeddings для потенційних рекомендацій і точки даних

Одна синя точка даних і кілька червоних у векторному просторі.

Вступ до Embeddings з OpenAI API

Системи рекомендацій з embeddings

 

  • Дуже схоже на семантичний пошук!

 

Процес:

  1. Створіть embeddings для потенційних рекомендацій і точки даних
  2. Обчисліть косинусні відстані

Одна синя точка даних і кілька червоних у векторному просторі. Між кожною червоною точкою і синьою проведено лінію, що позначає косинусну відстань.

Вступ до Embeddings з OpenAI API

Системи рекомендацій з embeddings

 

  • Дуже схоже на семантичний пошук!

 

Процес:

  1. Створіть embeddings для потенційних рекомендацій і точки даних
  2. Обчисліть косинусні відстані
  3. Рекомендуйте найближчі елементи

Виділено три найближчі червоні точки.

Вступ до Embeddings з OpenAI API

Приклад: рекомендовані статті

articles = [
    {"headline": "Economic Growth Continues Amid Global Uncertainty",
     "topic": "Business",
     "keywords": ["economy", "business", "finance"]},
    ...
    {"headline": "1.5 Billion Tune-in to the World Cup Final",
     "topic": "Sport",
     "keywords": ["soccer", "world cup", "tv"]}
]


current_article = {"headline": "How NVIDIA GPUs Could Decide Who Wins the AI Race",
                   "topic": "Tech",
                   "keywords": ["ai", "business", "computers"]}
Вступ до Embeddings з OpenAI API

Поєднання ознак

def create_article_text(article):
  return f"""Headline: {article['headline']}
Topic: {article['topic']}
Keywords: {', '.join(article['keywords'])}"""

article_texts = [create_article_text(article) for article in articles]
current_article_text = create_article_text(current_article)
print(current_article_text)

Headline: How NVIDIA GPUs Could Decide Who Wins the AI Race
Topic: Tech
Keywords: ai, business, computers
Вступ до Embeddings з OpenAI API

Створення embeddings

def create_embeddings(texts):
  response = openai.Embedding.create(
    model="text-embedding-3-small",
    input=texts
  )
  response_dict = response.model_dump()

  return [data['embedding'] for data in response_dict['data']]

current_article_embeddings = create_embeddings(current_article_text)[0]
article_embeddings = create_embeddings(article_texts)
Вступ до Embeddings з OpenAI API

Пошук найбільш подібної статті

def find_n_closest(query_vector, embeddings, n=3):
  distances = []
  for index, embedding in enumerate(embeddings):
    dist = spatial.distance.cosine(query_vector, embedding)
    distances.append({"distance": dist, "index": index})
  distances_sorted = sorted(distances, key=lambda x: x["distance"])
  return distances_sorted[0:n]

hits = find_n_closest(current_article_embeddings, article_embeddings)


for hit in hits:
  article = articles[hit['index']]
  print(article['headline'])
Вступ до Embeddings з OpenAI API

Пошук найбільш подібної статті

Tech Giant Buys 49% Stake In AI Startup
Tech Company Launches Innovative Product to Improve Online Accessibility
Scientists Make Breakthrough Discovery in Renewable Energy
Вступ до Embeddings з OpenAI API

Додавання історії користувача

user_history = [
    {"headline": "How NVIDIA GPUs Could Decide Who Wins the AI Race",
     "topic": "Tech",
     "keywords": ["ai", "business", "computers"]},
    {"headline": "Tech Giant Buys 49% Stake In AI Startup",
     "topic": "Tech",
     "keywords": ["business", "AI"]}
]
Вступ до Embeddings з OpenAI API

Рекомендації для кількох точок даних

Графік із вбудованими статтями: статті з історії користувача позначені синім, непрочитані — червоним.

Вступ до Embeddings з OpenAI API

Рекомендації для кількох точок даних

 

Процес:

  • Об'єднайте кілька векторів в один, взявши середнє
  • Обчисліть косинусні відстані

Додано точку, обчислену як середнє двох векторів, між двома точками.

Вступ до Embeddings з OpenAI API

Рекомендації для кількох точок даних

 

Процес:

  • Об'єднайте кілька векторів в один, взявши середнє
  • Обчисліть косинусні відстані
  • Рекомендуйте найближчий вектор

Найближчу червону точку виділено для рекомендації.

Вступ до Embeddings з OpenAI API

Рекомендації для кількох точок даних

 

Процес:

  • Об'єднайте кілька векторів в один, взявши середнє
  • Обчисліть косинусні відстані
  • Рекомендуйте найближчий вектор

Найближчу точку тепер зафарбовано синім, щоб підкреслити: код має виключати вже прочитані статті.

Вступ до Embeddings з OpenAI API

Рекомендації для кількох точок даних

 

Процес:

  • Об'єднайте кілька векторів в один, взявши середнє
  • Обчисліть косинусні відстані
  • Рекомендуйте найближчий вектор
    • Переконайтеся, що стаття непрочитана

Виділено найближчу червону точку, цього разу далі.

Вступ до Embeddings з OpenAI API

Рекомендації для кількох точок даних

def create_article_text(article):
  return f"""Headline: {article['headline']}
Topic: {article['topic']}
Keywords: {', '.join(article['keywords'])}"""

history_texts = [create_article_text(article) for article in user_history]
history_embeddings = create_embeddings(history_texts)

mean_history_embeddings = np.mean(history_embeddings, axis=0)


articles_filtered = [article for article in articles if article not in user_history]

article_texts = [create_article_text(article) for article in articles_filtered]
article_embeddings = create_embeddings(article_texts)
Вступ до Embeddings з OpenAI API

Рекомендації для кількох точок даних

hits = find_n_closest(mean_history_embeddings, article_embeddings)


for hit in hits:
  article = articles_filtered[hit['index']]
  print(article['headline'])

Tech Company Launches Innovative Product to Improve Online Accessibility
New Social Media Platform Has Everyone Talking!
Scientists Make Breakthrough Discovery in Renewable Energy
Вступ до Embeddings з OpenAI API

Давайте потренуємось!

Вступ до Embeddings з OpenAI API

Preparing Video For Download...