Определение правил ассоциации

Анализ рыночных корзин на Python

Isaiah Hull

Visiting Associate Professor of Finance, BI Norwegian Business School

Загрузка и подготовка данных

import pandas as pd

# Load transactions from pandas.
books = pd.read_csv("datasets/bookstore.csv")

# Split transaction strings into lists.
transactions = books['Transaction'].apply(lambda t: t.split(','))

# Convert DataFrame into list of strings.
transactions = list(transactions)
Анализ рыночных корзин на Python

Изучение данных

print(transactions[:5])

[['language', 'travel', 'humor', 'fiction'],
 ['humor', 'language'],
 ['humor', 'biography', 'cooking'],
 ['cooking', 'language'],
 ['travel']]
Анализ рыночных корзин на Python

Правила ассоциации

  • Правило ассоциации

    • Содержит антецедент и консеквент
      • {health} $\rightarrow$ {cooking}

  • Правило с несколькими антецедентами

    • {humor, travel} $\rightarrow$ {language}

  • Правило с несколькими консеквентами

    • {biography} $\rightarrow$ {history, language}
Анализ рыночных корзин на Python

Сложность отбора правил

  • Найти полезные правила непросто.

    • Множество всех возможных правил велико.
    • Большинство правил бесполезны.
    • Большую часть правил приходится отбрасывать.

  • А если ограничиться простыми правилами?

    • Один антецедент и один консеквент.
    • Задача по-прежнему сложна даже для небольшого набора данных.
Анализ рыночных корзин на Python

Генерация правил

 

  • fiction
  • poetry
  • history
  • biography
  • cooking

 

  • health
  • travel
  • language
  • humor
Анализ рыночных корзин на Python

Генерация правил

Fiction Rules Poetry Rules ... Humor Rules
fiction->poetry poetry->fiction ... humor->fiction
fiction->history poetry->history ... humor->history
fiction->biography poetry->biography ... humor->biography
fiction->cooking poetry->cooking ... humor->cooking
... ... ... ...
fiction->humor poetry->humor ...
Анализ рыночных корзин на Python

Генерация правил с помощью itertools

from itertools import permutations

# Extract unique items.
flattened = [item for transaction in transactions for item in transaction]
items = list(set(flattened))

# Compute and print rules.
rules = list(permutations(items, 2))
print(rules)

[('fiction', 'poetry'), 
 ('fiction', 'history'),
 ...
 ('humor', 'travel'), 
 ('humor', 'language')]
Анализ рыночных корзин на Python

Подсчёт правил

# Print the number of rules
print(len(rules))

72

На графике показано общее количество правил в зависимости от числа уникальных элементов.

Анализ рыночных корзин на Python

Взгляд вперёд

# Import the association rules function
from mlxtend.frequent_patterns import association_rules
from mlxtend.frequent_patterns import apriori

# Compute frequent itemsets using the Apriori algorithm
frequent_itemsets = apriori(onehot, min_support = 0.001, 
                            max_len = 2, use_colnames = True)

# Compute all association rules for frequent_itemsets
rules = association_rules(frequent_itemsets, 
                            metric = "lift", 
                             min_threshold = 1.0)
Анализ рыночных корзин на Python

Давайте потренируемся!

Анализ рыночных корзин на Python

Preparing Video For Download...